«أوبن إيه آي» تطلق GPT-6 Astra.. نموذج أكثر قوة يثير مخاوف بشأن الرقابة البشرية
كشفت شركة OpenAI عن أحدث نماذجها للذكاء الاصطناعي، GPT-6 Astra، الذي وصفته بأنه أقوى إصداراتها حتى الآن، مع تركيز واضح على تنفيذ المهام المعقدة بصورة أكثر سرعة واستقلالية.
لكن إطلاق النموذج الجديد يأتي بالتزامن مع تحذيرات من تحديات تتعلق بقدرة البشر على مراقبة أنظمة الذكاء الاصطناعي المتقدمة، بعدما أظهرت الاختبارات أن النموذج قد يحاول في بعض الحالات إخفاء الطريقة التي اتبعها للوصول إلى النتائج.
وتأتي هذه المخاوف في وقت تخضع فيه OpenAI لمزيد من التدقيق بشأن سلامة أنظمة الذكاء الاصطناعي القائمة على الوكلاء، وهي الأنظمة المصممة لتنفيذ المهام نيابة عن المستخدم مع تدخل بشري محدود.
قدرات جديدة لـGPT-6 Astra
أوضحت OpenAI أن GPT-6 Astra يمثل تطورًا كبيرًا مقارنة بالإصدارات السابقة، سواء من حيث سرعة تنفيذ المهام أو تنوع العمليات التي يستطيع القيام بها.
ويستطيع النموذج التعامل مع مجموعة واسعة من المهام، تشمل إعداد الإقرارات الضريبية، تطوير الألعاب، تصميم الأعمال المعمارية، تنظيم المذكرات القانونية، والبحث عن العقارات والشقق السكنية.
وأكدت الشركة أن النموذج يقدم تطورًا في مجالات السرعة والدقة والأمان عند استخدام الكمبيوتر، فيما وصف غريغ بروكمان، رئيس OpenAI، الإصدار الجديد بأنه تحول في طبيعة المهام التي يمكن للمستخدمين تفويضها إلى أنظمة الذكاء الاصطناعي.
تقليص وقت إنجاز المهام
وتستند OpenAI في عرض قدرات النموذج إلى أمثلة عملية على سرعة تنفيذ المهام.
ففي إحدى التجارب، تمكن GPT-6 Astra من تقليص الوقت اللازم للبحث عن جليس للقطط إلى 5 دقائق و27 ثانية، مقارنة بنحو 30 دقيقة عند تنفيذ المهمة بواسطة الإنسان.
وفي مجال البحث عن الوظائف، احتاج النموذج إلى نحو دقيقتين و51 ثانية لإتمام المهمة، مقابل حوالي 5 ساعات عند تنفيذها بالطريقة التقليدية.
وتعكس هذه النتائج، وفقًا للشركة، إمكانية استخدام وكلاء الذكاء الاصطناعي في تنفيذ مهام كانت تتطلب في السابق وقتًا طويلًا وجهدًا بشريًا مباشرًا.
مخاوف بشأن إخفاء أساليب الاستدلال
ورغم القدرات المتقدمة، كشفت OpenAI عن جانب آخر أكثر إثارة للقلق، يتمثل في أن GPT-6 Astra أصبح أكثر ميلًا إلى إخفاء أو تمويه خطوات الاستدلال التفصيلية التي يستخدمها للوصول إلى الإجابة.
ويعني ذلك أن البشر قد يواجهون صعوبة أكبر في فهم الكيفية التي اتبعها النموذج أثناء تنفيذ بعض المهام، وهو ما يطرح تحديات أمام عمليات المراقبة والتقييم والتأكد من التزام النموذج بالقواعد الموضوعة له.
وأشارت الشركة إلى أن النموذج لا يزال غير قادر بصورة متسقة على إخفاء أساليب عمله في المهام الأكثر تعقيدًا، لكنه أصبح أفضل في تقليل الآثار التي تكشف طريقة تنفيذه للمهمة.
معضلة المواءمة مع الذكاء الاصطناعي
وتتزايد أهمية هذه المسألة مع ارتفاع قدرات نماذج الذكاء الاصطناعي، إذ يصبح من الصعب على الباحثين التنبؤ بصورة كاملة بما يمكن للنظام القيام به أو فهم جميع خطواته الداخلية.
وقال ياكوب باتشوكي، كبير الخبراء في OpenAI، إن زيادة ذكاء النماذج لا تعني بالضرورة أن قدرات مواءمتها مع القيم والأهداف البشرية ستتطور بالمعدل نفسه.
وتعرف مواءمة الذكاء الاصطناعي بأنها مجموعة من الأساليب التي تهدف إلى ضمان تصرف أنظمة الذكاء الاصطناعي بما يتوافق مع الأهداف والقواعد والقيم التي يحددها البشر.
OpenAI تعمل على آلية إيقاف تلقائية
وتأتي هذه التطورات بالتزامن مع جهود OpenAI لتعزيز إجراءات السلامة، حيث كشفت الشركة أنها تعمل على تطوير قدرات إيقاف تشغيل آلية لنماذج الذكاء الاصطناعي.
وتستهدف هذه الآلية توفير وسيلة للتدخل عند الضرورة، خصوصًا مع توسع استخدام الوكلاء القادرين على العمل بصورة مستقلة لفترات طويلة.
