مراجع وهمية بأسماء حقيقية.. كيف خدع الذكاء الاصطناعي البرلمان الأسترالي؟
أصبحت عملية التحقق من المعلومات أكثر تعقيدًا مع انتشار أدوات البحث المدعومة بالذكاء الاصطناعي، بعدما أصبح من الممكن أن تتعامل بعض هذه الأدوات مع مراجع ودراسات غير موجودة باعتبارها حقيقية، بل وتنتج ملخصات تبدو مقنعة لمحتواها، بما قد يوحي بأن تلك الدراسات موجودة بالفعل.
وفي السابق، كان عدم العثور على مرجع أو معلومة في المصادر المتاحة قد يثير الشكوك بشأن صحتها، لكن أدوات الذكاء الاصطناعي غيرت هذه المعادلة، إذ قد تنتج أحيانًا مراجع وهمية تبدو موثوقة، أو تعرض الاستفسار أو المرجع نفسه ضمن نتائج البحث باعتباره مصدرًا للمعلومة.
ويثير ذلك مخاوف من تشكل حلقة مغلقة من المعلومات المضللة، تنتقل فيها المعلومة غير الصحيحة بين محركات البحث وأدوات الذكاء الاصطناعي، لتظهر في النهاية بصورة تبدو أكثر موثوقية رغم عدم وجود أساس حقيقي لها.
مراجع وهمية في وثائق برلمانية
وكشف تحقيق أجرته صحيفة «الجارديان» الأسترالية عن مشكلة جديدة تهدد موثوقية التحقيقات التي تجريها اللجان البرلمانية في أستراليا، والتي تعتمد عليها الحكومة والنواب في الاستماع إلى آراء الخبراء والباحثين والمنظمات وأفراد المجتمع، والاستناد إلى الأدلة والدراسات عند مناقشة القضايا المختلفة.
وأظهر التحقيق أن عشرات الوثائق المقدمة إلى لجان برلمانية تضمنت مراجع ودراسات لم تتمكن الصحيفة من العثور عليها، فيما نسب بعضها إلى باحثين وأكاديميين حقيقيين، في مؤشر على احتمال استخدام أدوات الذكاء الاصطناعي التوليدي في إعداد هذه الوثائق دون التحقق من المعلومات والمراجع التي أنتجتها.
وتسلط هذه الحالات الضوء على مخاطر تحول ما يعرف بـ«هلوسة الذكاء الاصطناعي»، التي تتمثل في اختلاق معلومات أو مصادر تبدو حقيقية رغم عدم وجودها، من مشكلة تقنية إلى مصدر محتمل لمعلومات مضللة قد تتسلل إلى النقاشات العامة وصنع السياسات الحكومية.
ورصدت «الجارديان» حالات تضمنت طلبات مقدمة إلى لجان التحقيق البرلمانية استشهادات بدراسات وأبحاث لم تتمكن الصحيفة من العثور عليها في قواعد البيانات الأكاديمية.
مراجع وهمية بأسماء باحثين حقيقيين
وتزداد خطورة هذه المشكلة عندما تحمل المراجع الوهمية أسماء باحثين حقيقيين، إذ قد يدفع وجود اسم أكاديمي معروف أو عنوان يبدو علميًا القارئ إلى الاعتقاد بأن الدراسة موجودة بالفعل.
ومن بين الحالات التي رصدتها الصحيفة، وثيقة قدمت إلى تحقيق برلماني بشأن العنف الأسري والانتحار، تضمنت مرجعًا متخيلًا منسوبًا إلى ديفنا هاسلام، الأستاذة المشاركة والأخصائية النفسية السريرية في جامعة كوينزلاند.
كما تضمنت الوثيقة تحريفًا لنتائج أبحاث أجراها فريق هاسلام بالفعل، وهو ما جعل المعلومات تبدو للوهلة الأولى وكأنها تستند إلى دراسة علمية حقيقية.
ولم تتوقف المفارقة عند هذا الحد، إذ وجدت الباحثة أن إحدى خدمات الذكاء الاصطناعي التابعة لجوجل تعاملت مع المرجع الوهمي كما لو كان ورقة بحثية حقيقية، وقدمت ملخصًا لمحتواها، مما يعكس صعوبة اكتشاف بعض المراجع المختلقة حتى باستخدام أدوات البحث المدعومة بالذكاء الاصطناعي.
كيف كشفت «الجارديان» حجم المشكلة؟
ولقياس مدى انتشار الظاهرة، طورت «الجارديان» برنامجًا حاسوبيًا لاستخراج المراجع الواردة في الطلبات المقدمة إلى لجان التحقيق التابعة للبرلمان الأسترالي الحالي، ثم قارنتها بعدد من قواعد البيانات الأكاديمية المتاحة عبر الإنترنت.
وفحص الصحفيون بعد ذلك يدويًا الوثائق التي سجلت نسبة مرتفعة من المراجع غير المتطابقة مع السجلات الأكاديمية المعروفة، وتمكنت الصحيفة بهذه الطريقة من تحديد ما لا يقل عن 39 طلبًا مقدمًا إلى لجان التحقيق البرلمانية، تضمنت ما يبدو أنها مراجع متخيلة.
وأكدت الصحيفة أن هذا الرقم لا يمثل بالضرورة الحجم الكامل للمشكلة، إذ ركزت منهجية البحث على اكتشاف المراجع غير الموجودة، وبالتالي قد لا تشمل الوثائق التي استخدمت الذكاء الاصطناعي في كتابة أجزاء من النص دون الاستناد إلى مراجع، أو تلك التي جمعت بين معلومات صحيحة وأخرى مولدة آليًا.
وفي مؤشر آخر على انتشار استخدام أدوات الذكاء الاصطناعي، تضمنت أكثر من 100 وثيقة روابط تحمل علامات مرتبطة بـ«شات جي بي تي» ضمن قوائم المراجع، وهي علامات يمكن أن تضاف تلقائيًا إلى بعض الروابط التي تظهر في نتائج المنصة.
ولم تكن جميع الحالات متشابهة، إذ تضمنت بعض الوثائق عددًا محدودًا من المراجع غير الصحيحة، بينما احتوت وثائق أخرى على عدد كبير من الاستشهادات التي لم تتمكن الصحيفة من التحقق منها، أو لم تتضمن مراجع على الإطلاق.
كما شملت الحالات التي رصدها التحقيق أفرادًا ومنظمات من اتجاهات سياسية مختلفة، مما يشير إلى أن المشكلة لا تقتصر على جهة أو تيار سياسي بعينه.
وعند التواصل مع أصحاب الوثائق، تبين أن بعضهم لم يكن يعلم أن أدوات الذكاء الاصطناعي يمكن أن تختلق مراجع ومعلومات، بينما كان آخرون على دراية باحتمالية وقوع أخطاء، لكنهم لم يراجعوا المحتوى بصورة كافية قبل تقديمه إلى اللجان البرلمانية.
