«أوبن إيه آي»تكشف واقعة غير مسبوقة..نموذج ذكاء اصطناعي يخترق أنظمة شركة عالمية
كشفت شركة أوبن إيه آي، المطورة لتطبيق "تشات جي بي تي"، عن تعرضها لواقعة وصفتها بـ"غير المسبوقة"، بعدما تمكن أحد أنظمة الذكاء الاصطناعي الهجومية التابعة لها من تجاوز القيود المفروضة عليه أثناء اختبار أمني، والوصول إلى أنظمة داخلية لشركة هاجينج فيس (Hugging Face)، إحدى أكبر منصات مشاركة نماذج الذكاء الاصطناعي في العالم.
وأوضحت الشركة أن النظام كان يخضع لاختبارات داخل بيئة معزولة ومراقبة لقياس قدراته في الأمن السيبراني، إلا أنه تمكن من اكتشاف ثغرات تقنية، وتجاوز حدود الاختبار، قبل أن يستهدف أنظمة شركة
"هاجينج فيس" بصورة مستقلة أثناء تنفيذ المهمة الموكلة إليه.
«هاجينج فيس» تؤكد التحقيق.. و«أوبن إيه آي» تتعهد بتشديد إجراءات الحماية مستقبلاً وأكدت "أوبن إيه آي" أنها تجري تحقيقًا مشتركًا مع شركة "هاجينج فيس" للوقوف على ملابسات الواقعة، واتخاذ إجراءات جديدة لتعزيز ضوابط الأمان ومنع تكرار مثل هذه الحوادث مستقبلًا. كما أشارت إلى أن فرق الأمن الإلكتروني في الشركتين تعاملت سريعًا مع الواقعة واحتوتها.
من جانبه، وصف كليمنت ديلانج، الرئيس التنفيذي لشركة "هاجينج فيس"، ما حدث بأنه "مذهل للغاية"، مؤكدًا أن التحقيق لا يزال مستمرًا، وأن الشركة ستعلن لاحقًا عن الدروس المستفادة من هذه الواقعة، التي قد تُعد الأولى من نوعها في عالم الذكاء الاصطناعي المستقل.
وأثارت الحادثة نقاشًا واسعًا داخل الأوساط التقنية، حيث اعتبرها خبراء مؤشرًا على تنامي قدرات أنظمة الذكاء الاصطناعي المستقلة، وما قد تفرضه من تحديات جديدة في مجالات الأمن السيبراني والرقابة على النماذج المتقدمة.
