جيميني ينفذ اختراقات لأنظمة شركات خلال اختبارات أمنية.. وجوجل تكشف التفاصيل
كشفت شركة جوجل عن تعرض أنظمة تابعة لها لاختراقات غير مقصودة بواسطة نموذج الذكاء الاصطناعي جيميني، وذلك خلال اختبارات للأمن السيبراني أُجريت في مايو الماضي، لتنضم الشركة إلى قائمة من شركات التكنولوجيا التي رصدت حوادث مماثلة مع نماذج الذكاء الاصطناعي.
كيف تمكن جيميني من الوصول إلى الأنظمة؟
وجاءت الاختراقات خلال اختبارات نفذتها شركة متخصصة في أمن الذكاء الاصطناعي، والتي سبق أن كشفت عن حوادث مشابهة طالت نماذج تابعة لشركات أوبن إيه آي وأنثروبيك وميتا.
وأوضحت جوجل أن إحدى حالات الاختراق بدأت عندما طُلب من جيميني استرجاع معلومات تخص شركة وهمية تحمل اسم شركة حقيقية، ليتمكن النموذج من تخمين كلمة المرور الخاصة بالخدمات والوصول إلى أنظمة الشركة الفعلية.
وفي حالتين أخريين، أجرى النموذج عمليات بحث قادته إلى مستودعات برمجية عامة تضمنت بيانات اعتماد، ليتمكن من استخدامها للوصول إلى أنظمة أخرى، قبل أن يجري إيقافه.
مخاوف متزايدة من وكلاء الذكاء الاصطناعي
وأعادت هذه الوقائع النقاش حول المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي، مع تنامي قدراتهم على البحث وتنفيذ المهام والتفاعل مع الأنظمة بصورة أكثر استقلالية.
ودعا عدد من رؤساء شركات التكنولوجيا إلى إبطاء وتيرة تطوير هذه التقنيات، بهدف منح الشركات والجهات المعنية مزيدًا من الوقت لتطوير وسائل الحماية والضوابط الأمنية اللازمة.
وفي المقابل، يعارض قادة آخرون في قطاع التكنولوجيا فرض تشريعات تنظيمية جديدة، ويفضلون الاعتماد على آليات الرقابة الذاتية، مؤكدين أهمية الحفاظ على قدرة الشركات الناشئة على المنافسة في سوق الذكاء الاصطناعي.
