الذكاء الاصطناعي يربك البرلمان الأسترالي.. 39 مذكرة تحت المجهر

كشفت تحقيقات صحفية أن لجانًا في البرلمان الأسترالي تسلمت خلال الأشهر الماضية مذكرات ودراسات تضمنت مراجع غير موجودة أو معلومات مشوهة، بعد استعانة أفراد ومؤسسات بأدوات الذكاء الاصطناعي في إعداد وثائق يفترض أن تسهم في مساعدة النواب على صياغة السياسات والتشريعات.

39 مذكرة تتضمن مصادر غير دقيقة

وأظهر تحليل أجرته صحيفة «الجارديان أستراليا» أن ما لا يقل عن 39 مذكرة قدمت إلى تحقيقات برلمانية تضمنت مراجع تبدو مختلقة أو غير دقيقة نتيجة استخدام أدوات الذكاء الاصطناعي، فيما استشهدت بعض اللجان بتقارير احتوت على مصادر لا وجود لها من الأساس.

وحذر خبراء من أن استمرار هذه الممارسات قد يدفع المشرعين إلى اتخاذ قرارات استنادًا إلى أدلة ودراسات لم تجر أو تنشر أصلًا.

ومن أبرز الحالات التي رصدها التحقيق، مذكرة قدمت إلى تحقيق برلماني بشأن العنف الأسري والانتحار، تضمنت دراسة منسوبة إلى ديفنا هاسلام، أستاذة علم النفس الإكلينيكي بجامعة كوينزلاند، ورغم أن المرجع بدا أكاديميًا ومتكاملًا، فإنه كان مختلقًا بالكامل، كما نسبت إلى فريق هاسلام نتائج لا تمت إلى أبحاثه الحقيقية بصلة.

وقالت الباحثة إن المرجع كان مثيرًا للقلق، لأنه صيغ بطريقة قد تجعل القارئ يعتقد بسهولة أنه حقيقي، خاصة عند الاطلاع عليه سريعًا.

دراسة مزعومة تثير صدمة باحثة أسترالية

واعترفت الجهة التي أعدت المذكرة، «دريل داون ريبورتس»، باستخدام أدوات الذكاء الاصطناعي خلال عملية البحث، موضحة أنها اكتشفت الأخطاء لاحقًا، لكنها لم تتمكن من تعديل النسخة الأصلية قبل انتهاء الموعد المحدد لتقديمها.

وفي واقعة أخرى، تضمنت مذكرة تناولت عدم المساواة في قطاع الإسكان إحالات إلى أبحاث مزعومة للباحثة نيكول غوران من جامعة سيدني، رغم أنها لم تكتب هذه الأبحاث، كما تضمنت مذكرة أخرى مقالًا منسوبًا إلى الصحفية والأكاديمية مارجريت سيمونز، التي نفت تأليفها له، رغم دقة الصياغة التي دفعتها للحظة إلى التساؤل عما إذا كانت قد كتبته ثم نسيته.

وللتحقق من المراجع، لم يعتمد تحقيق «الجارديان» على برامج كشف النصوص المولدة بالذكاء الاصطناعي، تجنبًا لاحتمال ظهور نتائج خاطئة، بل طوّر فريق التحقيق برنامجًا يستخرج المراجع الواردة في المذكرات البرلمانية، ثم يبحث عنها في قواعد بيانات مثل «CrossRef» و«Google Scholar»، إلى جانب فحص المعرفات الرقمية للوثائق.

وأخضعت المذكرات التي تعذر العثور على 20% أو أكثر من مصادرها لمراجعة بشرية، قبل التواصل مع أصحابها للتحقق من صحة المراجع، وأسفرت عملية الفحص عن رصد 39 مذكرة تضمنت مراجع مختلقة أو غير دقيقة، بينها وثائق لم يكن لأي من المصادر المذكورة فيها وجود فعلي.

علامات ChatGPT تظهر في أكثر من 100 ملف

كما عثر التحقيق على أكثر من 100 ملف يحتوي على علامات تظهر عادة عند نسخ الروابط من منصة «ChatGPT»، إلا أن الصحيفة أكدت أن وجود هذه العلامات لا يمثل دليلًا قاطعًا بمفرده على استخدام المنصة مباشرة.

وتزداد خطورة المشكلة عندما تتحول المذكرة البرلمانية نفسها إلى مصدر متاح عبر الإنترنت، إذ رصد التحقيق حالة الدراسة المنسوبة إلى هاسلام، حيث قدّم ملخص بحث مدعوم بالذكاء الاصطناعي عبر «جوجل» وصفًا للدراسة الوهمية باعتبارها بحثًا حقيقيًا، مستندًا إلى الوثيقة البرلمانية التي تضمنت المرجع المختلق.

حلقة تضليل تبدأ بالذكاء الاصطناعي

وبذلك يمكن أن تتشكل حلقة تضليل متكاملة، يبدأ فيها الذكاء الاصطناعي باختلاق دراسة، ثم تنتقل إلى وثيقة رسمية، قبل أن تعود محركات البحث لتعرض الوثيقة باعتبارها دليلًا على وجود الدراسة وصحتها.

ورغم أن قبول مذكرة أو الاستشهاد بها لا يعني بالضرورة أن البرلمان تبنى مضمونها، فإن مرور المراجع دون تدقيق قد يؤثر في التوصيات الحكومية، وقرارات توزيع التمويل، وصياغة التشريعات والسياسات العامة.

وتحمل إرشادات مجلس الشيوخ الأسترالي مقدمي المذكرات مسؤولية ضمان دقة المعلومات الواردة فيها، محذرة من مخاطر الاعتماد على الذكاء الاصطناعي دون إجراء مراجعة وتحقق مستقلين.

من جانبها، قالت شركة «OpenAI» للصحيفة إن المستخدمين يجب أن يتعاملوا مع «ChatGPT» باعتباره «مسودة أولى لا مصدرًا نهائيًا»، مع ضرورة التحقق من الاقتباسات والأرقام والمراجع قبل الاعتماد عليها.

وتشير هذه الوقائع إلى أن المشكلة لا تكمن في استخدام الذكاء الاصطناعي للمساعدة في إعداد المذكرات، وإنما في وصول محتوى مولد آليًا إلى البرلمان دون أن يتحقق أحد من صحة الدراسات والمراجع التي يستند إليها.