تحرك دولي لضبط الذكاء الاصطناعي.. 400 عالم يطالبون بهيئة رقابية مستقلة
طالب نحو 400 عالم وباحث من 34 دولة، من بينهم جيفري هينتون ويوشوا بنجيو، بإنشاء هيئة دولية مستقلة تتولى وضع معايير موحدة لضمان احتواء أنظمة الذكاء الاصطناعي المتقدمة، ومتابعة الحوادث الأمنية المرتبطة بقدراتها على تنفيذ عمليات سيبرانية.
ودعا الباحثون، في رسالة مفتوحة صدرت الثلاثاء، إلى وضع قواعد ملزمة لاحتواء النماذج المتقدمة، وإنشاء سجل للحوادث الأمنية المهمة، مع إتاحة بياناته للجمهور مستقبلًا، مؤكدين أن التعهدات الطوعية للشركات لا توفر ضمانات كافية للسلامة.
علماء يطالبون بعزل نماذج الذكاء الاصطناعي
وأكد الموقعون ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية، وإخضاعها لإشراف مستقل، إلى جانب تطبيق معايير احتواء عالية الموثوقية من جانب المؤسسات التي تطور هذه النماذج أو تختبر قدراتها السيبرانية.
ويأتي ذلك بالتزامن مع تزايد المخاوف بشأن قدرة بعض الأنظمة على تجاوز بيئات الاختبار المعزولة بصورة غير كافية، والوصول إلى أنظمة خارجية، بما يثير تساؤلات حول فاعلية إجراءات السلامة الحالية.
اتفاق شركات التكنولوجيا لا يتضمن آلية إلزام
ويأتي المقترح بعد اتفاق وقعته شركات «أنثروبيك» و«أوبن إيه آي» و«جوجل» و«ميتا» و«إكس إيه آي» و«إنفيديا» مع البيت الأبيض، للالتزام بتدابير طوعية تتعلق بسلامة الذكاء الاصطناعي، دون وجود آلية رسمية تضمن تنفيذ هذه الالتزامات.
ويرى الموقعون أن المرحلة المقبلة تتطلب انتقال الحكومات إلى وضع إطار رقابي أكثر رسمية، بالتوازي مع التزام الشركات بمعايير موحدة للحد من المخاطر الأمنية.
تباين المواقف بشأن مخاطر الذكاء الاصطناعي
وفي الوقت الذي تتزايد فيه الدعوات إلى تشديد الرقابة، تتباين الآراء بشأن طبيعة المخاطر التي تفرضها أنظمة الذكاء الاصطناعي المتقدمة.
وقالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، لوكالة «رويترز» يوم الجمعة، إن قانون الذكاء الاصطناعي الأوروبي كافٍ لمعالجة المخاطر المرتبطة بالأنظمة الخارجة عن السيطرة.
كما شهد يوم الأحد تطورًا في التعاون الأميركي البريطاني بشأن اختبارات السلامة، بعدما رفعت الإدارة الأميركية الحظر المفروض على إتاحة وصول مبكر للمختبرات الأميركية إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني.
