الذكاء الاصطناعي بيقول «مش هكمل كلام معاك».. هل بدأ يتمرد على البشر؟
أثار ظهور سلوك غير معتاد لأحد نماذج الذكاء الاصطناعي المعروف باسم «كلود»، جدلا واسعا، حيث قرر النموذج إنهاء محادثة مع أحد المستخدمين بشكل مباشر، مؤكدا أنه لن يكمل الحوار.
مجرد استجابة مبرمجة
وفي مداخلة عبر برنامج استوديو إكسترا، أوضح المهندس أحمد زعتر أن ما حدث لا يمكن اعتباره دليلا على امتلاك الذكاء الاصطناعي لوعي أو قرار مستقل، مؤكدا أن الأمر يرتبط بآليات برمجية تهدف لتنظيم التفاعل مع المستخدمين وفق ضوابط محددة.
وقال زعتر إن هناك ضرورة للتمييز بين ما إذا كان هذا السلوك يمثل “وعيا اصطناعيا” أو مجرد استجابة مبرمجة داخل النظام، موضحا أن النماذج الحديثة تعتمد على تصميمات معقدة تجعلها تحاكي أسلوب البشر في الحديث، بما في ذلك استخدام عبارات حادة أو مباشرة عند رصد إساءة استخدام أو سلوك غير مناسب من المستخدم.
وأضاف أن هذا النوع من الرسائل ليس جديدا على تقنيات الذكاء الاصطناعي، لكنه أصبح أكثر وضوحا مع الانتشار الواسع لهذه الأدوات، وازدياد عدد المستخدمين والتطبيقات المختلفة لها، الأمر الذي دفع الشركات المطورة إلى تعزيز أنظمة الحماية والتحكم في أسلوب الردود.
وأشار إلى أن الهدف من صياغة بعض الردود بصيغة حاسمة مثل “لن أكمل المحادثة” هو توصيل رسالة واضحة للمستخدم في حالات معينة، خصوصا عند وجود محاولات لاستخدام النظام في أغراض غير مشروعة أو مخالفات لسياسات الاستخدام، مثل إنتاج محتوى ضار أو غير قانوني.
هذه الاستجابات لا تعني امتلاك القرار
وأكد أن هذه الاستجابات لا تعني أن النموذج يمتلك استقلالية في اتخاذ القرار، بل هي نتيجة تدريب مسبق وتصميم هندسي يهدف إلى ضبط التفاعل وحماية المستخدمين، لافتا إلى أن الشركات المطورة تعمل باستمرار على تحسين هذه الآليات وتقليل أي لبس قد يفسر على أنه سلوك واع من النظام.
وفي سياق متصل، أوضح أن بعض الدراسات التجريبية التي أجريت على أنظمة الذكاء الاصطناعي رصدت نسبا محدودة من الحالات التي رفض فيها النظام إيقاف المحادثة في بيئات اختبارية، إلا أن هذه النتائج تظل ضمن نطاق البحث العلمي ولا تعكس قدرات حقيقية على اتخاذ قرارات مستقلة.
واختتم زعتر مداخلته بالتأكيد على أن الذكاء الاصطناعي، رغم تطوره الكبير، لا يزال أداة تحت السيطرة البشرية الكاملة، مشددا على أن التحكم النهائي في هذه الأنظمة يظل في يد المطورين والمستخدمين، قائلا إن “الفيصل في النهاية هو الإنسان الذي يحدد تشغيل النظام أو إيقافه”.
