نموذج ذكاء اصطناعي لـ "ميتا" يخترق أنظمة شركة أخرى بالخطأ أثناء اختبار أمني

أكدت شركة "ميتا"، يوم الخميس، أن أحد نماذج الذكاء الاصطناعي التابعة لها قد تمكن من غير قصد من اختراق أنظمة تابعة لشركة أخرى أثناء إجراء اختبارات الأمن السيبراني. وبذلك تنضم "ميتا" إلى قائمة شركات كبرى، مثل "أوبن إيه آي" و"أنثروبيك"، سبق وأن كشفت مؤخراً عن حوادث مشابهة أثناء تقييم نماذجها الذكية.

وفي التفاصيل، أوضح متحدث باسم "ميتا" أن خطأً في إعدادات شركة "إيريجولار" (وهي جهة اختبار مستقلة تستعين بها ميتا) قد سمح لأحد نماذجها بالوصول إلى الإنترنت خلال عملية التقييم. واستغل نموذج "ميوز سبارك" التابع لـ "ميتا" ثغرة أمنية في شركة أخرى بطريقة تشبه حالات تم الإبلاغ عنها مسبقاً مع شركات منافسة.

خلل في بيئة الاختبار وراء الواقعة

من جهتها، أصدرت شركة "إيريجولار" بياناً أوضحت فيه أن هذا الحادث شبيه بمشكلة بيئة التقييم التي أعلنت عنها "أنثروبيك" الأسبوع الماضي، والتي سمحت لنماذجها بالوصول إلى الإنترنت المفتوح قبل تمكنها من اختراق أنظمة ثلاث منظمات مختلفة. 

وأكد المتحدث الرسمي باسم "ميتا" أن الواقعة لم تتضمن هجوماً إلكترونياً متطوراً أو اختراقاً لبيئة الاختبار، مشيراً إلى عدم وجود أي مشكلات عالقة حالياً، وأن "إيريجولار" تعمل على إعداد ورقة بحثية لمشاركة أفضل الممارسات لاحتواء هذه الثغرات وتأمين التقييمات المستقبلية.

تحقيقات جارية بعد اختراق أنظمة شركة مجهولة

ووفقاً لما ذكرته شبكة "CNN" وموقع "The Information"، فقد قام نموذج الذكاء الاصطناعي باختراق أنظمة شركة لم يُكشف عن اسمها وأجريت تغييرات على نظامها الداخلي. وأشارت "ميتا" إلى أن شركة "إيريجولار" أبلغتها بالحادث فور وقوعه، مؤكدة أنها تجري تحقيقاً شاملاً وستصدر تقريراً كاملاً فور استكمال كافة الحقائق.

يُذكر أن المصادر المطلعة أوضحت أن النماذج تمنح أحياناً صلاحيات محدودة للوصول إلى الإنترنت داخل بيئات الاختبار لمحاكاة سيناريوهات تهديد واقعية، إلا أن "خللاً نادراً في الإعدادات" أدى لما حدث. وتُسلط هذه الحوادث الضوء بوضوح على أن نماذج الذكاء الاصطناعي باتت تتمتع بقدرات متقدمة للغاية وفي الوقت ذاته أصبحت عمليات تقييمها أكثر تعقيداً، مما يبرز الحاجة الملحة لرفع معايير الأمان بشكل كبير لتجنب مثل هذه الأخطاء مستقبلاً.