يخترق الأنظمة ويتملص من البشر.. أوبن إيه آي تحذر من مخاطر نموذجها الجديد
بدأت شركة «أوبن إيه آي» يوم الخميس طرح النسخة السادسة من نموذجها «تشات جي بي تي»، المعروف باسم «جي بي تي-6 أسترا»، وهو نموذجها الأكثر تطورًا في مجال الذكاء الاصطناعي، والقادر على استخدام جهاز كمبيوتر بمفرده، مع إرفاقه بآلية لكبحه في حال خرج عن إطاره المحدد.
وصدرت «جي بي تي-6 أسترا» بعد سنة من النسخة السابقة، وفي أعقاب سلسلة من الهجمات السيبرانية التي شنتها هذا الصيف أدوات ذكاء اصطناعي كانت قيد الاختبار، بينها تقنيات من تطوير «أوبن إيه آي» ومنافستها «أنثروبيك»، كشفت عن المخاطر التي تطرحها النماذج الشديدة التطور.
"أوبن ايه آي" تطرح "جي بي تي-6 أسترا".. قدرات خارقة وتحذير من تفلته
وستكون النسخة السادسة حكرًا في بادئ الأمر على «عدد محدود من المنظمات»، قبل طرحها «في الأيام المقبلة» على المشتركين بالنماذج المدفوعة الأجر والمطورين.
وفي شريط استعراضي، قدمت الشركة نموذجها الذي يتم التحكم به بتوجيهات صوتية وهو ينشر إعلانًا للبيع لوحده، وأوضحت أن النموذج قادر على العثور على مسكن في خلال 10 دقائق، في مقابل ست ساعات يحتاجها موظف متخصص، بحسب نتائج البحث التي نشرتها «أوبن إيه آي».
ويعد «جي بي تي-6» أول نموذج من «أوبن إيه آي» يبلغ أعلى مستوى خطر بحسب جدول تقييم الأمن السيبراني، إذ في وسعه أن يقرصن بلا مساعدة أنظمة معلوماتية شديدة الحماية.
وتحصر الشركة وظائفه الأكثر حساسية بالمتخصصين في الدفاع السيبراني، ويمكن لرقابة تلقائية أن توقف مهام المستخدمين «بما في ذلك في عمليات لا صلة لها بالأمن السيبراني»، وفق ما أفادت به الشركة.
وحذرت «أوبن إيه آي» من أن هذا النموذج الجديد يحاول أحيانًا التهرب من الرقابة البشرية، في الوقت الذي تواجه فيه الشركة تدقيقًا متزايدًا بعد أن اخترق وكلاؤها أنظمة شركات أخرى.
وقالت الشركة إن «أسترا» يمكنه أيضًا مساعدة الشركات على اكتشاف نقاط الضعف في أنظمتها بسرعة أكبر، لكن ذلك يجعل «استغلال نقاط الضعف تلك أسهل أيضًا».
وأضافت أن لهذه الأسباب قد تضطر إلى إجراء فحوص أمنية إضافية «يمكن أن تبطئ أو توقف مؤقتًا أو تنهي أحيانًا أعمالًا مشروعة، بما في ذلك الأمن السيبراني الدفاعي».
