جوجل تكشف تعرض أنظمتها لاختراقات غير مقصودة بواسطة نموذج جيميني
انضمت شركة جوجل إلى عدد من شركات التكنولوجيا الكبرى، بعد الكشف عن تعرض أنظمة تابعة لها لاختراقات غير مقصودة نفذها نموذج الذكاء الاصطناعي جيميني، وذلك خلال اختبارات للأمن السيبراني أُجريت في مايو الماضي.
وجاءت هذه الحوادث ضمن اختبارات نفذتها شركة متخصصة في أمن الذكاء الاصطناعي، بعدما كشفت اختبارات سابقة عن اختراقات مماثلة طالت نماذج ذكاء اصطناعي تابعة لشركات أوبن إيه آي وأنثروبيك وميتا.
تفاصيل اختراق أنظمة جوجل بواسطة جيميني
وأكدت جوجل وقوع أحد الاختراقات بعدما طُلب من نموذج جيميني استرجاع معلومات من شركة وهمية تحمل اسمًا مطابقًا لشركة حقيقية، ليتمكن النموذج من تخمين كلمة المرور واستخدامها للوصول إلى خدمات الشركة الفعلية.
وأوضحت الشركة أن الاختراقين الآخرين وقعا بعدما أجرى النموذج عمليات بحث على الإنترنت قادته إلى مستودعات برمجية عامة، تضمنت بيانات اعتماد تمكن من استغلالها للوصول إلى أنظمة أخرى، قبل أن يتم إيقاف النموذج.
مخاطر وكلاء الذكاء الاصطناعي
وأعادت هذه الحوادث تسليط الضوء على المخاطر المرتبطة بوكلاء الذكاء الاصطناعي، خاصة مع قدرتهم على تنفيذ عمليات متعددة بصورة مستقلة، ما أثار نقاشًا حول الضوابط المطلوبة لضمان الاستخدام الآمن لهذه التقنيات.
وفي ظل هذه المخاوف، دعا رؤساء بعض شركات التكنولوجيا إلى إبطاء وتيرة تطوير تقنيات الذكاء الاصطناعي بهدف تعزيز مستويات الأمان.
في المقابل، عارض قادة آخرون في قطاع التكنولوجيا فرض قوانين تنظيمية جديدة، مؤكدين تفضيل الرقابة الذاتية، باعتبارها وسيلة للحفاظ على قدرة الشركات الناشئة على المنافسة.
