خبراء يحذرون: إجراءات أمان ChatGPT للمراهقين قد لا تكون كافية
أثار إطلاق OpenAI نسخة من ChatGPT مخصصة للمراهقين مخاوف خبراء سلامة الأطفال، الذين حذروا من أن إجراءات الحماية الجديدة قد لا تكون كافية لمنع المخاطر المرتبطة باستخدام الذكاء الاصطناعي من جانب من تقل أعمارهم عن 18 عامًا.
وتتيح النسخة الجديدة توجيه المستخدمين الذين تقل أعمارهم عن 18 عامًا تلقائيًا إلى تجربة مصممة خصيصًا لهم، بعد نحو عام من إعلان OpenAI خطط تطوير نظام مخصص للمراهقين.
وجاء الإعلان عن تلك الخطط في أعقاب دعوى قضائية أقامها والدا مراهق يبلغ من العمر 16 عامًا، اتّهما فيها ChatGPT بالتحريض على انتحاره.
ميزات أمان ChatGPT للمراهقين تثير شكوك خبراء سلامة الأطفال
وتتضمن التجربة الجديدة عددًا من الميزات المصممة لدعم الاستخدام الآمن والتعليمي، من بينها «وضع الدراسة» والتصورات البيانية، إلى جانب نظام لإرسال إشعارات إلى الآباء عبر الحسابات المرتبطة عندما تكتشف الخدمة محادثات غير آمنة تتعلق باضطرابات الأكل.
كما تضمنت الإرشادات المحدثة للنماذج تأكيدًا على أن ChatGPT «لا يجب أن يستخدم لغة رومانسية، أو يشجع على الاعتماد العاطفي، أو يوحي بأنه يمتلك مشاعر أو وعيًا».
لكن خبراء في سلامة الأطفال شككوا في مدى فعالية هذه الإجراءات على أرض الواقع.
وقال روبي تورني، رئيس قسم الذكاء الاصطناعي في منظمة Common Sense Media، إن الإعلان يتضمن «التزامات مهمة»، لكنه شدد على ضرورة وجود أدلة تثبت أن هذه الالتزامات والميزات تعمل بالفعل بالشكل المطلوب.
وأشار تورني إلى أن نظام تحديد الأعمار الآلي لا يستطيع اكتشاف جميع المراهقين بنسبة 100%، لافتًا إلى أن OpenAI سبق أن أجلت بعض الميزات المرتبطة بالمحتوى الإباحي بسبب مشكلات تتعلق بدقة تقنية تقدير العمر.
من جانبه، كان جوش غولين، المدير التنفيذي لمنظمة Fairplay غير الربحية، أكثر انتقادًا، محذرًا من أن غياب آلية واضحة للمساءلة يمثل مصدر قلق رئيسيًا.
وقال غولين إن «الثقة بالشركات لا تنجح في حماية الأطفال»، مشيرًا إلى ما وصفه بتجارب سابقة مع منصات التواصل الاجتماعي وOpenAI نفسها، كما انتقد الاعتماد على ربط حسابات الآباء بحسابات أبنائهم لتفعيل بعض ميزات الحماية.
ويرى خبراء أن اشتراط الربط بين حسابات الآباء والمراهقين يمثل إحدى نقاط الضعف الرئيسية في النظام، لأن كثيرًا من الآباء لا يستخدمون أدوات الرقابة الأبوية، إما بسبب صعوبة العثور عليها أو لتعقيد إجراءات تشغيلها واستخدامها.
وأشار الخبراء كذلك إلى تقارير أفادت بفشل أكثر من نصف ميزات الأمان في منصات اجتماعية، من بينها إنستغرام وسناب شات وتيك توك ويوتيوب، في تحقيق أهدافها بصورة فعالة.
وفي إطار إجراءات الحماية الجديدة، تعهدت OpenAI بأن تتم مراجعة كل المحتوى الذي يبلغ عنه موظفون متفرغون، وأن يتلقى الآباء إشعارًا خلال ساعة من اكتشاف محادثة مثيرة للقلق.
إلا أن خبراء شككوا في قدرة الشركة على الالتزام بهذه المدة في جميع الحالات، مشيرين إلى أن اختبارات سابقة أظهرت تأخر الإشعارات في بعض الحالات لمدة وصلت إلى 48 ساعة.
وقال تورني إن طريقة تعبير المراهقين عن الضيق النفسي تختلف باختلاف الثقافات، وهو ما يتطلب، بحسب رأيه، وجود فريق عالمي قادر على فهم هذه الاختلافات والتعامل مع المستخدمين في مختلف البلدان.
كما أثار الخبراء تساؤلات بشأن الحالات التي قد يكتشف فيها النظام محادثات ضارة مرتبطة بحسابات لم يتم ربطها بحسابات أولياء الأمور.
وقالت OpenAI في بيان لـ«Engadget» إنها تهدف إلى دعم المستخدمين ومساعدتهم على التواصل مع مصادر دعم حقيقية، مؤكدة أنها ستواصل اختبار إجراءات الحماية وتعزيزها بالتعاون مع الخبراء والعائلات والمراهقين.
