إسلام الغزولي يدعو من مؤتمر الأمم المتحدة لقواعد دولية لمحاسبة مستخدمي الذكاء الاصطناعي
أكد المستشار الدكتور إسلام الغزولي، المحامي بالنقض ورئيس الهيئة الاستشارية للمركز العربي الأوروبي لحقوق الإنسان والقانون الدولي، أن الذكاء الاصطناعي غيّر أدوات الجريمة وسرعتها ونطاقها، لكنه لم يغير القاعدة الأساسية في القانون الجنائي، وهي أن المسؤولية تظل مسؤولية بشرية يجب أن تصل إلى صاحب القرار، وألا تتوقف عند الفاعل المباشر.
جاء ذلك خلال كلمته بعنوان «من الفاعل المباشر إلى مركز القرار»، في الجلسة الجانبية الدولية حول «التعاون الدولي لمكافحة الجريمة»، ضمن فعاليات مؤتمر الأمم المتحدة الخامس عشر لمنع الجريمة والعدالة الجنائية في أبوظبي.
وأوضح أن البناء القانوني الحالي يقوم على مساءلة الشخص الطبيعي متى ثبت فعله وقصده واختصاص القضاء، وعلى إمكان مساءلة الأشخاص الاعتبارية، وفي مقدمتها الشركات، جنائيًا أو مدنيًا أو إداريًا وفقًا للقوانين الوطنية، مع بقاء المسؤولية الدولية للدولة منفصلة عن المسؤولية الجنائية للأفراد.
وأضاف أن هذه القواعد لا تزال صالحة من حيث المبدأ، إلا أن طبيعة الجريمة نفسها تغيرت؛ فلم تعد الجريمة دائمًا فعلًا مباشرًا يرتكبه شخص واحد في مكان محدد، بل قد تتوزع أدوارها بين من يصمم النظام، ومن يوجه استخدامه، ومن يموله، ومن يشغله، ومن يوفر له المنصة والبنية الرقمية، عبر أكثر من دولة.
وأشار إلى أن الذكاء الاصطناعي ضاعف قدرة المجرمين على تقليد الأصوات والوجوه، وإنشاء هويات اصطناعية، وتنفيذ عمليات التصيد والابتزاز على نطاق واسع، وإخفاء مصادر الهجمات، واستهداف البنى التحتية الحيوية بسرعة تتجاوز في بعض الأحيان أدوات التحقيق التقليدية.
وأكد الغزولي أن التحدي القانوني لا يتمثل في منح الآلة شخصية جنائية أو افتراض وجود إرادة مستقلة لديها، وإنما في تحديد الإنسان الذي وجّه استخدامها أو أجازها أو موّلها أو تعمد تجاهل مخاطرها أو استخدم نتائجها في ارتكاب الجريمة.
وقال إن التكنولوجيا قد تفصل بين صاحب القرار والفاعل المباشر، وقد توزع مراحل الجريمة بين دول متعددة، لكنها لا تمحو القصد الجنائي ولا تقطع رابطة المسؤولية متى أمكن إثباتها بالأدلة.
وأوضح أن القوانين الحالية تستطيع ملاحقة كثير من هذه الأفعال، لكن أدوات التحقيق والإثبات والتعاون الدولي لم تتطور بالسرعة نفسها، وهو ما يفرض تحديث الإجراءات القانونية من دون الإخلال بمبدأ الشرعية أو قرينة البراءة أو ضمانات المحاكمة العادلة.
ودعا الغزولي إلى إلزام الأنظمة المستخدمة في المجالات عالية الخطورة بحفظ سجلات قابلة للتتبع، توضح مصدر البيانات والتعليمات والقرارات البشرية التي وجهت النظام، مع وضع قواعد عاجلة لحفظ الأدلة الرقمية قبل تعديلها أو محوها.
كما طالب بتطوير التعاون الدولي على مدار الساعة لتبادل المعلومات وحفظ الأدلة وتعقب العائدات الإجرامية وتعطيل البنية الرقمية التي تستخدمها الشبكات الإجرامية، خاصة أن الفاعل والمنصة والخادم والضحية قد يوجد كل منهم في دولة مختلفة.
وشدد على قاعدتين أساسيتين: ألا يصدر قرار آلي نهائي يمس حياة الإنسان أو حريته من دون إشراف بشري واضح وقابل للمساءلة، وألا تُبنى الإدانة على دليل رقمي أو نتيجة صادرة عن نظام آلي لا يستطيع الدفاع فحصها وفهم طريقة إنتاجها والطعن في موثوقيتها أمام المحكمة.
وأكد أن الوصول إلى مركز القرار لا يعني التوسع غير المنضبط في الاتهام، وإنما يقتضي تتبع سلسلة المسؤولية بدقة، والتمييز بين من صمم التقنية لغرض مشروع ومن تعمد استخدامها في الجريمة، وبين مجرد الانتفاع وبين المساهمة الجنائية القائمة على العلم والقصد.
وطرح الغزولي، باسم المركز، مسارًا قانونيًا لتطوير المساءلة عن الجرائم المدعومة بالذكاء الاصطناعي، يقوم على إثبات المسؤولية البشرية، وحفظ الأدلة الرقمية، وتسريع التعاون القضائي، وتحديد التزامات الأشخاص الاعتبارية، وتمكين الدفاع من فحص الدليل الآلي والطعن فيه.
وأكد أن العدالة التي تعاقب اليد التي نفذت ثم تترك العقل الذي قرر، والجهة التي موّلت، والبنية التي مكنت من التنفيذ، هي عدالة ناقصة لا تمنع تكرار الجريمة ولا تنصف ضحاياها.
واختتم الغزولي كلمته قائلًا موقفنا واضح: لا مركز قرار فوق القانون، ولا يجوز أن تختبئ إرادة بشرية خلف منصة أو نظام آلي، ولا أن تصبح التكنولوجيا طريقًا إلى جريمة بلا مسؤول.
