رئيس مايكروسوفت يطالب بوضع آليات لإيقاف الذكاء الاصطناعي عند الضرورة

دعا ساتيا ناديلا، الرئيس التنفيذي ورئيس مجلس إدارة شركة مايكروسوفت، إلى تطوير أنظمة ذكاء اصطناعي متقدمة مزودة بوسائل تحكم مستقلة تتيح إيقافها مؤقتًا أو تعطيلها عند الضرورة، في ظل تزايد المخاوف بشأن سلامة النماذج المتطورة وقدرتها على تنفيذ المهام بصورة مستقلة.

تطوير أنظمة ذكاء اصطناعي

وأكد ناديلا، في منشور عبر منصة «إكس»، أهمية إحاطة النماذج غير الحتمية ببنية تشغيل موثوقة وقابلة للتحكم، تتضمن أدوات للرقابة البشرية وإجراءات تشغيل واضحة، إلى جانب وضع معايير جديدة للقطاع في المجالات التي لا تغطيها الضوابط الحالية بصورة كافية.

وأشار إلى أن توفير ما يشبه «فرامل الطوارئ» لأنظمة الذكاء الاصطناعي من شأنه تمكين الأشخاص المصرح لهم من التدخل وإيقاف النماذج أثناء تنفيذ المهام، موضحًا أن التعامل مع النماذج المتقدمة، سواء المغلقة أو مفتوحة الأوزان، باعتبارها مخاطر داخلية محتملة يمثل أحد مداخل تعزيز الأمان.

تحذيرات من مخاطر تطور الذكاء الاصطناعي

وتأتي تصريحات ناديلا بالتزامن مع تصاعد النقاش بشأن مخاطر الذكاء الاصطناعي، بعدما حذر عدد من قادة التكنولوجيا والباحثين من أن التطور السريع لهذه الأنظمة قد يتجاوز قدرة آليات السلامة الحالية على احتواء تداعياتها.

ومن بين الشخصيات التي تناولت هذه المخاطر بيل غيتس، الشريك المؤسس لمايكروسوفت، وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس.

وفي الشهر الماضي، استقال أحد باحثي الذكاء الاصطناعي في شركة أنثروبيك، منتقدًا الشركة ومنافستها أوبن إيه آي، ومتهمًا إياهما بالمخاطرة بحياة البشر.

كما قدّر مسؤول متخصص في سلامة الذكاء الاصطناعي لدى أنثروبيك بأكثر من 10% احتمال أن تتسبب هذه التقنية في انقراض البشرية خلال العقد المقبل، وفقًا للتصريحات الواردة في التقرير.

ترامب يقلل من مخاطر انقراض البشرية

وفي المقابل، قلل الرئيس الأميركي دونالد ترامب مرارًا من المخاوف بشأن احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، مركزًا على أهمية الحفاظ على التفوق الأميركي في هذه الصناعة ومواصلة المنافسة مع الصين.

وتعيد هذه التطورات تسليط الضوء على التحدي الذي تواجهه شركات التكنولوجيا في تطوير قدرات الذكاء الاصطناعي، بالتوازي مع بناء أنظمة رقابة تتيح التدخل البشري والحد من المخاطر المحتملة.