باحثون يطورون أداة تكشف الفيديوهات المزيفة وتحدد الذكاء الاصطناعي الذي أنشأها

في خطوة جديدة لمواجهة الانتشار المتزايد لمقاطع الفيديو المُولدة بالذكاء الاصطناعي، نجح فريق من الباحثين في جامعة كاليفورنيا – ريفرسايد في تطوير أداة مبتكرة تحمل اسم SAGA، لا تكتفي باكتشاف الفيديوهات المزيفة، بل تستطيع أيضًا تحديد نموذج الذكاء الاصطناعي الذي استخدم في إنتاجها.

وتأتي هذه التقنية في وقت أصبحت فيه مقاطع الفيديو المولدة بالذكاء الاصطناعي أكثر واقعية، ما يزيد من صعوبة التمييز بينها وبين المحتوى الحقيقي، ويعزز المخاوف من استخدامها في حملات التضليل ونشر المعلومات المضللة.

ما هي أداة SAGA؟

طُورت أداة SAGA، وهي اختصار لعبارة Source Attribution of Generative AI Videos، بقيادة الباحث الدكتور روهيت كوندو، وبالتعاون مع أستاذ الهندسة الكهربائية وهندسة الحاسوب أميت كيه. روي تشودري، إلى جانب باحثين من يوتيوب وGoogle DeepMind.

وتهدف الأداة إلى تتبع مصدر الفيديوهات المنتجة بالذكاء الاصطناعي، عبر تحليل الخصائص التقنية التي تميز كل نموذج توليدي.

كيف تكتشف مصدر الفيديو؟

تعتمد SAGA على رصد أنماط بصرية دقيقة تتركها نماذج الذكاء الاصطناعي أثناء عملية توليد الفيديو، وهي أنماط تشبه "البصمة الرقمية" الخاصة بكل نموذج.

ويرى الباحثون أن كل نظام ذكاء اصطناعي يمتلك أسلوبًا مختلفًا في إنشاء الصور وتحريك العناصر داخل الفيديو، وهو ما يتيح للأداة التعرف على النموذج المستخدم حتى في المقاطع التي تبدو شديدة الواقعية.

ولا يقتصر تحليل الأداة على الإطارات المنفردة، بل يدرس أيضًا كيفية تطور المشاهد عبر الزمن باستخدام تقنية Temporal Attention Signatures، التي ترصد أنماط الحركة والتغيرات بين الإطارات لبناء ملف مميز لكل نموذج.

اختبارات على 19 نموذجًا للذكاء الاصطناعي

اختبر فريق البحث الأداة على 19 نموذجًا مختلفًا لتوليد الفيديو، شملت تقنيات تحويل النص إلى فيديو (Text-to-Video)، وكذلك تحويل الصور إلى فيديو (Image-to-Video).

وأظهرت النتائج قدرة SAGA على:

التحقق مما إذا كان الفيديو حقيقيًا أو مولدًا بالذكاء الاصطناعي.
تحديد ما إذا كان الفيديو قد أُنتج انطلاقًا من نص أو صورة.
التعرف على نموذج الذكاء الاصطناعي المستخدم في إنشاء الفيديو.
تحديد الشركة أو الجهة المطورة للنموذج.
أداة جديدة لمكافحة التضليل الرقمي

وأكد الباحثون أن الاكتفاء بوضع علامة تشير إلى أن الفيديو "مزيف" لم يعد كافيًا في ظل التطور السريع لتقنيات الذكاء الاصطناعي التوليدي.

وأوضحوا أن معرفة مصدر الفيديو تمنح المحققين والجهات التنظيمية أداة أكثر فاعلية لتتبع حملات التضليل، كما تساعد شركات التكنولوجيا على مراقبة انتشار المحتوى المزيف وتطبيق معايير أعلى للشفافية.

سباق مستمر بين التزييف والكشف

ويرى فريق البحث أن تطوير أدوات كشف المحتوى المزيف سيظل سباقًا مفتوحًا مع التطور المتواصل لنماذج الذكاء الاصطناعي، إلا أنهم يعتقدون أن تقنيات مثل SAGA ستجعل من الصعب على الجهات التي تنشئ فيديوهات مزيفة إخفاء مصدرها، حتى مع ازدياد جودة المحتوى وقدرته على محاكاة الواقع بصورة يصعب اكتشافها.