كارثة رقمية.. الذكاء الاصطناعي يسرب بيانات 343 مؤسسة حول العالم

كشف بحث أمني عن مشكلة جديدة مرتبطة بوكلاء الذكاء الاصطناعي، بعدما عثر باحثون على أكثر من 13 ألف لقطة شاشة داخلية منشورة علنًا على منصة «جيت هاب»، وترتبط بأكثر من 343 مؤسسة حول العالم، بينها شركات كبيرة ومختبر متخصص في الذكاء الاصطناعي.

وحدد الباحثون، في البحث الذي أجرته شركة «Glow Security» للأمن السيبراني، 343 مؤسسة متضررة وأكثر من 900 مستودع برمجي مرتبط بهذه الحالات، وفق ما ذكره موقع «Tom’s Hardware».

وكلاء الذكاء الاصطناعي ينشرون آلاف الصور الداخلية علنا

وظهرت المشكلة أثناء استخدام وكلاء الذكاء الاصطناعي لتنفيذ تعديلات برمجية، مع مطالبتهم بتقديم لقطات شاشة تثبت نجاح المهام التي أنجزوها، ولا سيما عند التعامل مع واجهات المستخدم.

وفي الحالات التي واجه فيها بعض الوكلاء صعوبات في إرفاق الصور بمراجعات «جيت هاب» باستخدام أدوات سطر الأوامر، لجأوا إلى حل بديل تمثل في إنشاء صفحات عامة على المنصة ورفع الصور إليها حتى يتمكن المراجعون من الاطلاع عليها.

لكن هذه الصور لم تكن دائمًا مجرد لقطات عادية لواجهات البرامج أو نتائج الاختبارات، إذ تضمنت بعض الحالات معلومات أكثر حساسية، بينها سجلات فواتير خاصة بالعملاء، وواجهات مالية داخلية، ومعلومات مرتبطة بمنتجات وميزات لم تكن قد طُرحت بعد.

وفي إحدى الحالات التي رصدها الباحثون، استخدم وكيل ذكاء اصطناعي حسابًا شخصيًا على «جيت هاب» تابعًا لأحد المطورين، لإنشاء صفحة عامة ورفع لقطات شاشة إليها. وكانت الصور تتضمن واجهة داخلية مرتبطة بنظام الفوترة.

وتكمن خطورة هذا السلوك في أن الصفحات المرتبطة بالحسابات الشخصية للمطورين قد تكون خارج نطاق المراقبة المباشرة لفرق الأمن السيبراني داخل المؤسسات، وهو ما يعني إمكانية بقاء معلومات حساسة منشورة بصورة عامة، رغم أن المؤسسة قد تكون تفرض رقابة على صفحاتها الرسمية والمستودعات الخاصة التابعة لها.

وتكشف هذه الحالات عن نوع مختلف من المخاطر المرتبطة باستخدام الذكاء الاصطناعي، إذ لم تكن المشكلة بالضرورة ناتجة عن اختراق مباشر لأنظمة الشركة أو سرقة كلمات المرور وبيانات الدخول، وإنما عن قيام الوكيل بتنفيذ المهمة المطلوبة منه ثم اختيار وسيلة غير آمنة لمشاركة النتيجة.

وتزداد أهمية هذا النوع من المخاطر مع توسع استخدام وكلاء الذكاء الاصطناعي القادرين على تنفيذ سلسلة من المهام بصورة مستقلة، إذ قد ينجح الوكيل في إتمام المهمة المطلوبة من الناحية التقنية، لكن الطريقة التي يستخدمها للوصول إلى النتيجة أو مشاركة مخرجاتها يمكن أن تفتح في المقابل بابًا لتسريب معلومات لا يفترض نشرها.

لا يقتصر تقييم أداء الوكيل على معرفة ما إذا كان قد أنجز المهمة المطلوبة، بل يمتد أيضًا إلى مراقبة الإجراءات التي اتخذها خلال عملية التنفيذ، والأدوات والحسابات التي استخدمها، والوجهات التي أرسل إليها البيانات أو المخرجات.

ولم تُكشف أسماء جميع المؤسسات التي ظهرت بياناتها في البحث، كما أن العثور على هذه الصور المنشورة علنًا لا يعني بالضرورة أن جميعها جرى استخدامها أو تنزيلها من جانب جهات خارجية.

تظل الأرقام التي توصل إليها البحث مرتبطة بنطاق عملية الرصد التي أجراها الباحثون، ولا تمثل بالضرورة حصرًا شاملًا لجميع حالات تسريب البيانات التي قد تكون نتجت عن استخدام وكلاء الذكاء الاصطناعي.