تزايد خلال السنوات الماضية الحديث عن السيطرة الآمنة على نماذج الذكاء الاصطناعي ودار النقاش بين كبريات المعاهد البحثية والجامعات الكبرى حول طريقة الاحتواء إذ حدث شيء ما خارج عن المألوف أو قرر نموذج التمرد على المنظومة البرمجية الخاصة به، بالطبع حديث كهذا استمد أهميته من أن الذكاء الاصطناعي لم يعد فقط نماذج على غرار شات جي بي تي وجيمناي بل أصبح يتولى عمل أقسام كاملة داخل شركات تتعامل بملايين الدولارات، ناهيك عن دوره في منظومة الأسلحة والطيران وهي تتعلق في المقام الأول بأرواح البشر ما يعني أن الاستخدام الآمن والسيطرة في حالة الخلل أمرًا لم يعد مجرد ترف باحثين.
وبعيدًا عن الجدل القانوني في من المسئول وهو جدل اشتعل أيضًا بالتزامن مع الجدل السابق، فإن مؤسسة "Guidelight AI Standards" المعنية بتعزيز ممارسات تطوير الذكاء الاصطناعي الآمنة أعدت دراسة خصيصًا لهذا الشأن لكنها ذهبت إلى المسئول مباشرة وهم 5 مختبرات رائدة في عالم الذكاء الاصطناعي وقيمت الدراسة مدى استعداد تلك المختبرات لاحتواء نماذج الذكاء الاصطناعي حين تخرج عن السيطرة وما هي الخطط الموضوعة والإجراءات المفترض اتخاذها في حالة رصد نظام يحاول تقويض السيطرة البشرية عليه بما في ذلك الصلاحيات التي تسحب منه ومتى يتم إيقاف النظام بالكامل.
في البداية استند تقييم "Guidelight " على الخطط المتاحة للعامة من شركات أنثروبيك و OpenAI وجوجل وميتا و XAI وجرى تقييم تلك الخطط وفق مجموعة من المعايير من بينها مدى جودة تسجيل كل شركة ومراقبتها لما تفعله أنظمة الذكاء الاصطناعي داخلها، وما إذا كانت توقف الأنظمة بعد حدوث زيادة في السلوكيات التي يتم الإبلاغ عنها وماذا عن الجهات المستقلة المسئولة عن التدقيق في الضوابط ونشر النتائج؟
بتلك المعايير ذهبت "Guidelight" للشركات العملاقة السابقة لتنتهي في النهاية إلى أن شركات قليلة جديدًا هي من لديها بروتوكولات جاهزة لاحتواء حالات الطوارئ، وصحيح أن كل شركة لديها طريقة مختلفة في التعامل مع مفهوم السلامة لكن الأهم أن حتى مع هذا الاختلاف فإن المواجهة مع أي طارئ سيكون ضعيف في ذلك بحسب ما اطلعت عليه "Guidelight" من خطط ركيكة وسيناريوهات لا تفي بالغرض.
هذه نصف الحقيقة، النصف الآخر كشفت عنه أيضًا المؤسسة المعنية بتعزيز الممارسات الآمنة للذكاء الاصطناعي والتي أوضحت ان الشركات الكبرى ترفض الإفصاح عن ماذا ستفعل في حالة تصرف النماذج التي تملكها داخل انظمتها بشكل صحيح وهذا يضع تساؤلات أكثر مثل هل عدم الإفصاح خوفًا من المنافسين؟ أم حتى لا يتسبب ذلك في فزع المستخدمين والشركاء أم لا يوجد أصلًا خطط وبالتالي ستتعرض الشركة التي تعلن ذلك إلى هجوم ضخم باعتبارها مقصرة في جزء مهم من صناعة ضخمة؟
الباحث ستيفن أدلر كبير العلماء والباحث السابق في مجال سلامة الذكاء الاصطناعي لدي OpenAI كان له مساهمته أيضًا في تلك الدراسة والذي أوضح أن النماذج الرائدة لدى شركات الذكاء الاصطناعي المتقدم حاليًا منحرفة بطريقة ما، ثم أكد أنه فوجئ بمدى قلة ما قالته شركات الذكاء الاصطناعي حول كيفية تعاملها مع حادث خطير للغاية إذا خرج نموذجها عن سيطرتها، مؤكدًا أن خطة الاحتواء هي خطة محددة مسبقًا يتم تفعيلها عندما يكتشف أن الذكاء الاصطناعي يحاول تقويض السيطرة عليها وفي تلك الحالة يتم سحب صلاحيات محددة منه ويتم تحديد الجهات المفترض أن يواصل العمل لصالحها، كما أن هناك الحل الأخير وهو إيقاف النموذج بالكامل عن العمل.
وبعيدًا عن دراسة Guidelight المهمة من حيث النتائج والتوقيت، تبقى الحقيقة الحالية أن الجميع لم يعد يتحدث عن مخاطر الذكاء الاصطناعي كما كان الحال منذ سنوات بل يتحدث في كيفية السيطرة على أي مخاطر وهو تحول جوهري إذ أصبح الذكاء الاصطناعي قاعدة ننطلق منها نحو المستقبل.
