محمد الجندي يكشف خطورة الذكاء الاصطناعي في التضليل والابتزاز

حذر الدكتور محمد الجندي، الخبير الدولي في الأمن السيبراني وتكنولوجيا المعلومات، من خطورة توظيف الذكاء الاصطناعي في عمليات التضليل والتزييف والجرائم الإلكترونية، مؤكدا أن التطور الحالي لهذه التكنولوجيا يجعل اكتشاف بعض أشكال التزييف أمرا صعبا بالعين المجردة.

الذكاء الاصطناعي يزيف الصوت والصورة والفيديو

وأوضح الجندي أن الذكاء الاصطناعي أصبح قادرا على تزييف الصوت والفيديو والكلام، والتأثير على وعي الناس، مشيرا إلى إمكانية استخدامه في الجرائم بصورة كبيرة.

وأشار إلى واقعة تعرضت لها إحدى الشركات، حيث تم استخدام صوت رئيس مجلس إدارة الشركة بعد اختراق هاتفه وتجميع عدد كبير من مكالماته، ثم استخدام بصمة صوته في الاتصال بالمسؤول عن الحسابات وطلب تحويل 35 مليون دولار إلى 17 حسابا.

وأضاف أن المسؤول عن الحسابات اعتقد أن الصوت يعود إلى رئيس الشركة، قبل أن يكتشف في اليوم التالي أن رئيس مجلس الإدارة لم يتصل به، وبعد التحقيق تبين أن هاتفه تعرض للاختراق وأن صوته جرى استخدامه في العملية.

الذكاء الاصطناعي يدخل في صناعة المحتوى المزيف

وتحدث الجندي عن نماذج لمحتوى تم إنتاجه باستخدام الذكاء الاصطناعي، مشيرا إلى ظهور نموذج لفتاة على مواقع التواصل الاجتماعي حققت دخلا بلغ 11 ألف دولار في شهر، قبل أن يتضح أنها مصنوعة بالكامل بالذكاء الاصطناعي.

وأوضح أن هناك أيضا فيديوهات يمكن أن يظهر فيها أشخاص بأصواتهم وحركاتهم وهيئاتهم بصورة تبدو حقيقية، رغم أنها مصنوعة بالذكاء الاصطناعي، وهو ما يجعل التمييز بين الحقيقي والمزيف أكثر صعوبة.

التزييف يستخدم في الابتزاز والتشهير

وأكد الجندي أن الذكاء الاصطناعي يستخدم في الجرائم، ومنها الابتزاز والتشهير، مشيرا إلى أن هذه الجرائم أصبحت موجودة في مصر أيضا، في ظل إتاحة تقنيات الذكاء الاصطناعي بصورة أكبر.

وقال إن استخدام الذكاء الاصطناعي في التضليل أصبح متاحا لمن يستطيع تحمل تكلفته، مشيرا إلى وجود فرق متخصصة في التضليل باستخدام الذكاء الاصطناعي، وأن بعض الحملات استهدفت أكثر من 30 دولة حول العالم، بينها دول في الشرق الأوسط.

وأضاف أن الحملة الواحدة من هذه الحملات كانت تصل تكلفتها إلى 6.4 مليون دولار، وتستخدم لاستهداف مسؤولين والتشهير والابتزاز والتأثير على الانتخابات السياسية.

الذكاء الاصطناعي يدخل مرحلة أكثر خطورة

وأشار إلى تقرير صادر عن شركة "أنتروبيك"، تحدث عن اكتشاف حملات تضليل حول العالم، بينها حملات في الشرق الأوسط، استخدمت في إدارة حسابات مزيفة وتنفيذ حملات تضليل.

وأضاف أن استخدامات الذكاء الاصطناعي لم تعد مرتبطة بالتضليل فقط، وإنما امتدت إلى مجالات أخرى، منها تصنيع الأسلحة والصواريخ والتجسس.

وأكد أن التطور الحالي يمثل مرحلة أكثر خطورة من مرحلة السوشيال ميديا، موضحا أن التكنولوجيا أصبحت متاحة أمام عدد كبير من الأشخاص ويمكن استخدامها في التأثير دون إطلاق رصاصة.