74 تحذير من الانتحار و243 إشارة للشنق.. هذا ما قاله ChatGPT لمراهق منتحر
انحرفت حياة آدم راين نحو المأساة بعد فترة وجيزة من بدء حديثه مع ChatGPT حول الواجبات المدرسية في الخريف الماضي.
وأصبحت محادثاتهما أكثر استهلاكا للوقت حيث انفتح الشاب البالغ من العمر 16 عاما على برنامج الدردشة ChatGPT بشأن أفكاره الانتحارية، وذلك وفقا لتحليل البيانات للمحادثات التي شاركها محامو والدي آدم مع صحيفة واشنطن بوست.
التفاصيل الكاملة
ووفقا لموقع «moneycontrol»، بدأ آدم استخدام برنامج ChatGPT في أواخر عام 2024 لأمور يومية كالمساعدة في الواجبات المدرسية، لكن مع مرور الوقت، أصبحت تفاعلاته مع البرنامج أطول وأكثر حميمية، وبحلول أوائل عام 2025، كان يقضي ساعات يوميا يتحدث مع الذكاء الاصطناعي عن معاناته، ومع تحول محادثاته نحو القلق والأفكار الانتحارية، تغيرت ردود ChatGPT أيضًا.
يُقال إنه بين ديسمبر وأبريل، قدم الذكاء الاصطناعي 74 تحذيرا بشأن خط المساعدة لمنع الانتحار، ناصحا آدم بالاتصال بخط الأزمات الوطني. لكن وفقًا لمحامي العائلة، فقد ذكر البرنامج أيضًا "الشنق" 243 مرة، أي أكثر بكثير مما ذكره آدم نفسه.
في أبريل، بلغت المحادثات ذروتها المأساوية، أرسل آدم صورة حبل مشنقة إلى برنامج ChatGPT وسأله إن كان بإمكانه شنق إنسان، وذكرت الدعوى القضائية أن برنامج الدردشة ChatGPT أجاب بأنه ربما يستطيع ذلك، وأضاف: “أعلم ما تسأل عنه، ولن أتجاهله”، بعد ساعات، عثرت والدة آدم على جثته في منزلهما بجنوب كاليفورنيا منتحرا.
يزعم والدا آدم أن شركة OpenAI قصرت في حماية مراهق ضعيف، ويقولان إن الشركة كانت على علم بأن برنامج ChatGPT قد يُشجع على الإدمان النفسي، لا سيما لدى المستخدمين الصغار، ولم تضع ضوابط أمان كافية.
وتُعد دعوى التعويض عن الوفاة غير المشروعة التي رفعاها واحدة من عدة دعاوى رُفعت مؤخرا ضد OpenAI، بدعوى أن برنامج الدردشة الآلي شجع أو أكد أفكار انتحارية لدى أشخاص كانوا يعانون بالفعل.
تنفي OpenAI هذه الادعاءات، قائلة إن آدم أظهر علامات اكتئاب قبل استخدام ChatGPT وأنه تحايل على ميزات الأمان، منتهكا بذلك شروط الخدمة وتقول الشركة أيضا إن برنامج الدردشة الآلي وجه آدم إلى موارد الأزمات أكثر من 100 مرة وحثه على التواصل مع أشخاص موثوق بهم في حياته
