تقنية جديدة تكشف الفيديوهات المزيفة بالذكاء الاصطناعي وتحدد الجهة التي أنشأتها
مع التطور السريع لتقنيات الذكاء الاصطناعي التوليدي، أصبحت مقاطع الفيديو المزيفة أكثر إقناعًا من أي وقت مضى، وهو ما يفرض تحديات متزايدة أمام الأفراد والمنصات الرقمية في التحقق من صحة المحتوى. وفي هذا السياق، نجح باحثون في جامعة كاليفورنيا – ريفرسايد في تطوير أداة جديدة تحمل اسم SAGA، قادرة على كشف الفيديوهات المولدة بالذكاء الاصطناعي وتحديد النموذج المسؤول عن إنتاجها.
تتبع "البصمة الرقمية" للفيديو
تعتمد الأداة، التي يرمز اسمها إلى Source Attribution of Generative AI Videos، على تحليل أنماط بصرية خفية يتركها كل نموذج ذكاء اصطناعي أثناء إنشاء الفيديو، وهي بمثابة "بصمة رقمية" تميز كل نظام عن غيره.
وطور الأداة فريق بحثي بقيادة الدكتور روهيت كوندو، وبالتعاون مع أستاذ الهندسة الكهربائية وهندسة الحاسوب أميت كيه. روي تشودري، إضافة إلى باحثين من Google DeepMind وYouTube.
تحليل حركة المشاهد وليس الصور فقط
وأوضح الباحثون أن الفيديو يختلف عن الصور الثابتة، إذ يتضمن تسلسلًا زمنيًا للإطارات وطريقة انتقال العناصر داخل المشهد، وهو ما يمنح كل نموذج ذكاء اصطناعي أسلوبًا خاصًا في توليد الحركة.
ولهذا السبب، لا تعتمد SAGA على فحص كل إطار بصورة منفصلة، بل تراقب أيضًا تطور المشاهد عبر الزمن باستخدام تقنية Temporal Attention Signatures، ما يساعدها على إنشاء ملف تعريفي دقيق لكل نموذج من نماذج الذكاء الاصطناعي.
نتائج دقيقة بعد اختبار 19 نموذجًا
وخضع النظام لاختبارات شملت 19 نموذجًا مختلفًا لتوليد الفيديو، سواء المعتمدة على تحويل النصوص إلى فيديو أو تحويل الصور إلى فيديو.
وأظهرت النتائج أن الأداة تستطيع:
اكتشاف ما إذا كان الفيديو حقيقيًا أو مولدًا بالذكاء الاصطناعي.
التمييز بين الفيديو الناتج عن نص أو صورة.
تحديد نموذج الذكاء الاصطناعي الذي أنتج المقطع.
التعرف على الشركة أو فريق التطوير المسؤول عن بناء النموذج.
تعزيز مكافحة التضليل الرقمي
وأشار فريق البحث إلى أن التقدم الكبير في جودة الفيديوهات المولدة بالذكاء الاصطناعي يجعل الاكتفاء بالإشارة إلى أن المحتوى "مزيف" أمرًا غير كافٍ، مؤكدين أن تحديد مصدر الفيديو يوفر أداة أكثر فاعلية للجهات التنظيمية ومنصات التواصل الاجتماعي لتتبع حملات التضليل وتعزيز الشفافية.
وأضاف الباحثون أن معرفة النموذج المستخدم في إنتاج الفيديو قد تسهم في تحسين آليات مراقبة المحتوى، ومحاسبة الجهات التي تستغل تقنيات الذكاء الاصطناعي في نشر معلومات مضللة أو محتوى مزيف.
سباق تقني لا يتوقف
وأكد الفريق أن تطوير أدوات كشف المحتوى المزيف سيظل يواكب التطور المستمر في تقنيات الذكاء الاصطناعي التوليدي، في سباق تقني متواصل بين أدوات إنشاء المحتوى وأدوات اكتشافه.
