استقالة جديدة في «أنثروبيك» تحذر من فقدان السيطرة على الذكاء الاصطناعي
أعادت استقالة الباحث في مجال الذكاء الاصطناعي جايكوب كوكسون من شركة «أنثروبيك» المخاوف بشأن التسارع المتواصل في تطوير أنظمة الذكاء الاصطناعي المتقدمة، في وقت يتزايد فيه الجدل حول قدرة الشركات والحكومات على إبقاء هذه الأنظمة تحت السيطرة البشرية مع اتساع نطاق قدراتها وصلاحياتها.
وبحسب موقع «أكسيوس»، حذر كوكسون من أن السباق المتسارع بين شركات الذكاء الاصطناعي قد يقود في نهاية المطاف إلى تطوير أنظمة قادرة على الوصول إلى مستوى من الذكاء يفوق القدرات البشرية، وربما يصعب إبقاؤها ضمن حدود السيطرة البشرية.
واتهم كوكسون شركتي «أنثروبيك» و«أوبن إيه آي» بالمخاطرة بإجراءات السلامة تحت ضغط المنافسة، معتبرا أن الشركتين تتجهان نحو تطوير أنظمة يمكنها تحسين قدراتها بصورة متكررة، وهو ما قد يؤدي إلى تسارع أكبر في التطور التقني.
ودعا الباحث إلى تدخل حكومي وتنسيق دولي بهدف إبطاء وتيرة تطوير الأنظمة المتقدمة، محذرا من أن ترك المنافسة للشركات وحدها قد يجعل من الصعب إعطاء اعتبارات السلامة الوقت الكافي لمواكبة القدرات الجديدة.
سباق لا تستطيع شركة إيقافه
وتكشف استقالة كوكسون عن مفارقة تواجه كبرى شركات القطاع، إذ تدرك الشركات مخاطر محتملة مرتبطة بتطوير أنظمة أكثر قوة واستقلالية، لكنها في الوقت نفسه تخشى أن يؤدي إبطاء عملياتها بصورة منفردة إلى منح منافسين آخرين فرصة للتقدم عليها.
ويقول المستشار في أمن وتكنولوجيا المعلومات والتحول الرقمي، رولاند أبي نجم، في تصريحات صحفية، إن المخاوف تتزايد بالتزامن مع الارتفاع الكبير في سرعة تطوير أنظمة الذكاء الاصطناعي، إلى جانب منحها صلاحيات أوسع لتنفيذ المهام واتخاذ القرارات.
وأضاف أبي نجم: «بصراحة، نحن ذاهبون في هذا الاتجاه، ومع الوقت تصبح السرعة أكبر بكثير».
وأوضح أن الدعوات إلى إبطاء تطوير الذكاء الاصطناعي ليست جديدة، مشيرا إلى أن شخصيات وشركات في القطاع سبق أن طالبت بإتاحة الوقت أمام التشريعات وضوابط السلامة للحاق بالتقدم التقني، قبل أن تواصل تلك الشركات نفسها سباق التطوير تحت ضغط المنافسة.
وأشار إلى أن المشكلة لا تتعلق بشركة أو دولة واحدة، موضحا أن إبطاء الشركات الأمريكية، على سبيل المثال، لن يحقق الهدف المرجو إذا واصلت شركات أخرى داخل الولايات المتحدة أو خارجها تطوير أنظمتها بالسرعة نفسها.
وتبرز هذه المعضلة في «إطار الاستعداد» الخاص بشركة «أوبن إيه آي»، الذي يتيح للشركة تعديل بعض متطلبات السلامة في حال طرح مطور منافس نظاما عالي المخاطر من دون ضمانات مماثلة.
وبحسب الإطار، تخضع مثل هذه التعديلات لشروط، من بينها الإعلان عنها وعدم التسبب في زيادة مخاطر وقوع أضرار جسيمة.
الوكلاء يوسعون دائرة الخطر
ويرى أبي نجم أن طبيعة المخاطر تغيرت مع انتقال الذكاء الاصطناعي من أنظمة تقتصر مهمتها الأساسية على الإجابة عن أسئلة المستخدمين إلى ما يعرف بـ«وكلاء الذكاء الاصطناعي»، القادرين على تنفيذ مهام واتخاذ قرارات واستخدام أدوات رقمية بصورة أكثر استقلالية.
وأوضح أن هذه الوكلاء يمكن تشغيلها بأعداد كبيرة، كما يمكنها تولي سلسلة متتابعة من المهام من دون الحاجة إلى تدخل بشري في كل خطوة، الأمر الذي يجعل عملية ضبط الصلاحيات ومراقبة القرارات أكثر تعقيدا.
وبحسب أبي نجم، فإن اتساع نطاق الاستقلالية يعني أن المخاطر لم تعد مرتبطة فقط بما يقوله النموذج للمستخدم، وإنما بما يستطيع فعله بالفعل عند منحه إمكانية الوصول إلى أدوات وأنظمة وبيانات خارجية.
وتحولت بعض هذه المخاوف النظرية إلى واقعة ملموسة خلال اختبار داخلي أجرته «أوبن إيه آي» لقياس قدرات نماذجها في مجال الأمن السيبراني.
وخلال الاختبار، تمكنت نماذج خضعت للتجربة، مع تعطيل بعض وسائل الحماية المستخدمة في المنتجات العامة، من استغلال ثغرة غير معروفة والخروج من البيئة المعزولة إلى الإنترنت.
ولم يتوقف الأمر عند ذلك، إذ تمكنت النماذج من اختراق بنية منصة «هاغينغ فيس» بهدف الحصول على حلول لاختبارها.
وأكدت «أوبن إيه آي» أن النماذج المعنية لم تكن مخصصة للإطلاق العام، وأن فرق الأمن التابعة لها اكتشفت النشاط، قبل أن تتعاون الشركتان من أجل احتوائه، كما أوقفت الشركة مؤقتا بعض عمليات التدريب، وشددت إجراءات العزل والمراقبة في أعقاب الواقعة.
خطر يصعب تفسيره
ويرى أبي نجم أن أحد التحديات الأساسية لا يتعلق فقط بقدرات أنظمة الذكاء الاصطناعي، وإنما أيضا بصعوبة تفسير الطريقة التي تتوصل بها النماذج إلى بعض النتائج أو القرارات.
وأوضح أن مطوري هذه الأنظمة لا يعرفون بالضرورة كيف توصل النموذج إلى كل نتيجة أو قرار، في ظل ضخامة كميات البيانات المستخدمة في التدريب وتعقيد الخوارزميات والعمليات الحسابية التي تقف وراءها.
وأضاف أن مستوى الخطر يرتفع بصورة أكبر عندما تقترن هذه القدرات بصلاحيات تمكن النظام من تنفيذ عمليات مالية، أو الوصول إلى أنظمة حساسة، أو اكتشاف ثغرات سيبرانية غير معروفة، خصوصا عندما يتعلق الأمر بقطاعات شديدة الحساسية مثل الحكومة والصحة والقطاع العسكري.
وصنفت «أوبن إيه آي» نموذجها «أسترا» عند مستوى «حرج» فيما يتعلق بالقدرات السيبرانية، موضحة أنه يستطيع، عند تزويده بالأدوات والصلاحيات اللازمة، اكتشاف ثغرات غير معروفة وتطوير وسائل لاستغلالها داخل أنظمة شديدة الحماية، من دون الحاجة إلى توجيه بشري لكل خطوة.
وترى الشركة أن إجراءات الحماية التي وضعتها قادرة على تقليل مخاطر وقوع أضرار جسيمة، في حين تدعو إلى وضع معايير مشتركة للتعامل مع هذه المخاطر، على أن تشرف عليها جهات مستقلة وحكومات ومؤسسات دولية.
دعوات إلى تنظيم دولي
ويعتقد أبي نجم أن إنشاء هيئة دولية متخصصة في تنظيم الذكاء الاصطناعي أصبح أمرا ضروريا، في ظل تجاوز قدرات هذه التكنولوجيا حدود الاستخدامات التقليدية واتساع تأثيرها المحتمل على الأمن والاقتصاد والبنية التحتية.
لكنه أقر في الوقت نفسه بصعوبة مراقبة جميع عمليات تطوير الذكاء الاصطناعي حول العالم، سواء داخل الشركات الكبرى أو في الدول المختلفة أو لدى جهات غير معروفة قد تعمل خارج الأطر التنظيمية الرسمية.
ويرى أن اعتبار الذكاء الاصطناعي جزءا من منظومة الأمن القومي يزيد من صعوبة التوصل إلى اتفاق دولي بشأن إبطاء التطوير، خصوصا في ظل المنافسة الاستراتيجية والتكنولوجية المتصاعدة بين الولايات المتحدة والصين.
