أوبن إيه آي تحصن شات جي بي تي بوضع القفل وميزة الخطر المرتفع

أعلنت أوبن إيه آي، إطلاق ميزتين أمنيتين جديدتين لروبوت الدردشة شات جي بي تي، في خطوة تستهدف تعزيز الحماية الرقمية ومواجهة التهديدات المتسارعة في مجال أمن الذكاء الاصطناعي.

شات جي بي تي 

وتشمل التحديثات ميزة «Lockdown Mode» أو «وضع القفل»، وميزة «Elevated Risk» أو «الخطر المرتفع»، وذلك ضمن جهود الشركة للحد من مخاطر الهجمات السيبرانية المتطورة التي تستهدف أنظمة الذكاء الاصطناعي.

حماية متقدمة من هجمات حقن الأوامر

صُممت الميزتان للتصدي لهجمات حقن الأوامر، وهي أسلوب تستخدمه جهات خبيثة لاختراق أنظمة الذكاء الاصطناعي بهدف الوصول إلى معلومات حساسة أو تنفيذ أوامر غير مصرح بها.
ويُعد «وضع القفل» إعدادًا أمنيًا متقدمًا واختياريًا موجّهًا للمستخدمين الأكثر عرضة للمخاطر، مثل القيادات التنفيذية وفرق الأمن داخل المؤسسات الكبرى، ممن يحتاجون إلى مستويات أعلى من الحماية.

ووفقًا للشركة، يفرض هذا الوضع قيودًا صارمة على تفاعل النظام مع التطبيقات والأنظمة الخارجية، للحد من احتمالات تسريب البيانات الناتج عن استغلال الثغرات أو تنفيذ هجمات حقن الأوامر، كما يقوم بتعطيل بعض الأدوات والقدرات التي قد تُستخدم للوصول إلى بيانات حساسة أو استغلال التطبيقات المتصلة.

ومن المقرر أن يتوافر «وضع القفل» في البداية لمستخدمي النسخ المؤسسية والتعليمية وقطاعات الرعاية الصحية والتعليم، مع خطط لتوسيع نطاقه ليشمل المستخدمين الأفراد خلال الأشهر المقبلة.

تصنيف جديد للمخاطر

أما ميزة «الخطر المرتفع»، فتعمل على تصنيف بعض القدرات داخل أنظمة الذكاء الاصطناعي، مع إظهار تنبيهات واضحة للمستخدمين بشأن مستوى المخاطر المحتملة المرتبطة باستخدامها.
وستظهر هذه التحذيرات بجانب الميزات المتصلة بالشبكات أو التي قد تتضمن ثغرات أمنية غير معالجة بالكامل وفقًا للمعايير الصناعية، ما يساعد المستخدمين على اتخاذ قرارات أكثر وعيًا عند تفعيلها.

استجابة لتصاعد التهديدات

تأتي هذه الخطوة في وقت تتزايد فيه التحذيرات من محاولات اختراق تستهدف أدوات الذكاء الاصطناعي، مع سعي الشركات المطورة إلى تعزيز أنظمة الحماية وتقليل فرص استغلال التقنيات الحديثة في عمليات تسريب البيانات أو الهجمات السيبرانية.