نيفين مكرم: الذكاء الاصطناعي ما زال تحت سيطرة الإنسان لكن الخطر قائم

قالت الدكتورة نيفين مكرم، نائب رئيس الجمعية المصرية لنظم المعلومات وتكنولوجيا الحاسبات، إن الذكاء الاصطناعي لا يزال تحت سيطرة الإنسان حتى الآن، لكن الخطر الحقيقي يكمن في إمكانية منحه حرية اتخاذ القرار بشكل كامل دون رقابة أو تدخل بشري، مؤكدة أن ذلك قد يؤدي إلى خروج الأنظمة عن السيطرة في حال استخدامها في موضوعات حساسة مثل الحياة أو الموت أو الحروب.

الذكاء الاصطناعي ما زال أداة بيد الإنسان

وأوضحت نائب رئيس الجمعية المصرية لنظم المعلومات، خلال لقاء في برنامج «صباح الخير يا مصر»، المذاع علي القناة الأولي المصرية، أن الإنسان ما زال صاحب القرار في التعامل مع الذكاء الاصطناعي، سواء في استخدامه كمساعد أو منحه صلاحيات واسعة، مشيرة إلى أن المشكلة لا تكمن في التقنية نفسها بل في طريقة استخدامها والبيانات التي يتم تغذيتها بها، مما قد يؤدي إلى نتائج خاطئة إذا كانت المعطيات غير دقيقة أو تم توجيه النظام بشكل غير صحيح.

وأضافت أن تقنيات التعلم العميق والتعلم الآلي تسمح للأنظمة بالتطور ذاتيا واكتساب خبرات جديدة دون الرجوع للمبرمج، وهو ما قد ينتج عنه سلوكيات غير متوقعة أو قرارات خاطئة، لافتة إلى أن هذا يختلف تماما عن الأخطاء البرمجية التقليدية التي يمكن اختبارها وتصحيحها قبل الاستخدام.

مخاوف من الروبوتات والحوادث الصناعية

وأشارت إلى وجود حالات تم تداولها لروبوتات في بعض المصانع أظهرت سلوكا عدائيا تجاه البشر، مؤكدة أن هذه الحوادث تثير تساؤلات حول مدى السيطرة على الأنظمة الذكية، خاصة مع تزايد الاعتماد عليها في بيئات العمل المختلفة.

وأكدت أن العالم يشهد جدلا واسعا حول المسؤولية القانونية في حال وقوع أخطاء أو جرائم ناتجة عن الذكاء الاصطناعي، وهل تقع المسؤولية على المطور أو الشركة المصنعة أو المستخدم، موضحة أن الأمر لا يزال محل نقاش عالمي دون حسم واضح حتى الآن.

الاستخدام المزدوج للذكاء الاصطناعي

وقالت إن الذكاء الاصطناعي يمكن استخدامه في الخير والشر في الوقت نفسه، فهو قادر على دعم الأمن السيبراني واكتشاف الثغرات، لكنه قد يستخدم أيضا في اختراق الأنظمة وتنفيذ هجمات إلكترونية، مؤكدة أن طريقة الاستخدام هي التي تحدد طبيعة الأثر.

ودعت إلى ضرورة إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي تضع معايير صارمة لاستخدامه، وتفرض رقابة على الشركات المطورة، مع إمكانية فرض عقوبات على أي أنظمة قد تهدد حياة البشر أو الأمن العالمي.

واختتمت بالتأكيد على أن الحل لا يكمن في التخلي عن التكنولوجيا، بل في استخدامها بوعي وحذر، مع عدم مشاركة البيانات الشخصية أو الحساسة عبر التطبيقات الذكية، مشددة على أهمية التفكير النقدي والحفاظ على دور الإنسان كمرجع أساسي في اتخاذ القرار، وعدم الاعتماد الكامل على الذكاء الاصطناعي.