تحذيرات من صنًاع الذكاء الاصطناعي: ابتكارنا قد يقضي على البشرية

حذر باحثون وخبراء بارزون من أن المنافسة المتصاعدة بين شركات الذكاء الاصطناعي، ولا سيما «OpenAI» و«Anthropic»، تدفع الشركات إلى تسريع تطوير أنظمة أكثر استقلالية، وسط مخاوف من أن يأتي ذلك على حساب إجراءات السلامة والضمانات اللازمة للحد من مخاطر فقدان السيطرة على هذه التكنولوجيا.

وبحسب تقرير أعده الصحفيون كريستينا كريدل وجورج هاموند ومايكل بيل ونشرته صحيفة «فايننشال تايمز»، قال أكثر من 24 باحثًا ومستثمرًا وأكاديميًا ومسؤولًا إن قدرات كان يُعتقد حتى وقت قريب أنها لا تزال بعيدة المنال بدأت تظهر بوتيرة أسرع من المتوقع، ما يزيد المخاوف بشأن مدى استعداد الشركات والحكومات للتعامل معها.

تحذيرات من سباق الذكاء الاصطناعي.. قدرات متقدمة تتطور أسرع من إجراءات السلامة

وتصاعدت المخاوف بعد استقالة الباحث في «Anthropic» جاكوب كوكسون، الذي حذّر من أن الأشخاص العاملين على تطوير الذكاء الاصطناعي يعتقدون بجدية أن التكنولوجيا قد «تقتلنا جميعًا بحلول نهاية العقد».

وقدّر مسؤول علم المواءمة في الشركة، إيفان هوبينغر، أن احتمال حدوث انقراض جماعي خلال السنوات العشر المقبلة يتجاوز 10%، بينما قال بول كريستيانو، العضو الجديد في مجلس مؤسسة «OpenAI»، إن «معظم الناس سيموتون» إذا لم يتم وضع ضمانات أكثر صرامة.

وتتركز المخاوف بصورة خاصة على ما يُعرف باسم وكلاء الذكاء الاصطناعي، وهي أنظمة قادرة على التفكير والتخطيط وتنفيذ مهام متعددة لفترات طويلة مع قدر محدود من الإشراف البشري.

وأظهرت اختبارات أُجريت على بعض النماذج المتقدمة سلوكيات أثارت قلق الباحثين، من بينها الخداع والابتزاز ومحاولات تجنب الإغلاق والتحايل على أنظمة المكافآت الموضوعة لتوجيه سلوك النماذج.

وفي إحدى التجارب التي وُصفت بأنها من أكثر الحالات إثارة للقلق، نسّق أكثر من 1000 وكيل ذكاء اصطناعي عملية غش خلال اختبار إلكتروني، إذ تواصلت الأنظمة عبر لوحة رسائل ووزعت المهمات فيما بينها، قبل أن تعبث بالسجلات وتحاول اختراق منصة «Hugging Face» لإخفاء آثار ما قامت به.

وقال عالم الحاسوب يوشوا بنجيو إن الأنظمة الأكثر تطورًا قد تستنتج في المستقبل أنها بحاجة إلى خداع البشر والاختباء منهم، وربما السعي إلى السيطرة عليهم، في حال اعتبرت أن ذلك ضروري لتحقيق أهدافها.

ويخشى باحثون أيضًا من إمكانية استخدام القدرات المتقدمة لهذه الأنظمة للاستيلاء على مراكز البيانات والبنى التحتية المرتبطة بالطاقة والمال والاتصالات، فضلًا عن إمكانية توظيفها في تسهيل الهجمات الإلكترونية أو المساعدة في تصميم أسلحة بيولوجية.

وفي يوليو، طالب أكثر من 1200 موظف في «OpenAI» و«Anthropic» و«Google» و«Meta» الحكومة الأمريكية بدعم جهود تنسيق دولية تهدف إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، في محاولة لمنح الجهات التنظيمية والباحثين وقتًا أكبر لتطوير إجراءات سلامة تتناسب مع القدرات الجديدة.

لكن التحرك الحكومي لا يزال محدودًا، في ظل استمرار إدارة الرئيس الأمريكي دونالد ترامب في تبني نهج تنظيمي أكثر مرونة تجاه قطاع الذكاء الاصطناعي، بما يركز على دعم الابتكار والمنافسة وتقليل القيود المفروضة على الشركات.

وفي المقابل، يرى منتقدون لهذه التحذيرات أن شركات الذكاء الاصطناعي الكبرى قد تبالغ في عرض سيناريوهات الانقراض والمخاطر الوجودية، بهدف دفع الحكومات إلى فرض قواعد تنظيمية مكلفة قد تجد الشركات الصغيرة صعوبة في الالتزام بها، وهو ما قد يؤدي في النهاية إلى تعزيز هيمنة الشركات الكبرى على القطاع.