بقلم ـ المستشار. سعود عقل

لم يعد السؤال القانوني الأكثر إرباكا هو من ارتكب الجريمة؟
بل أصبح أحيانا هل يوجد أصلا مجرم بشري يمكن أن ننسب إليه الفعل؟
تخيل نظاما ذكيا يدير مركبة ذاتية القيادة فيتخذ قرارا يؤدي إلى وفاة إنسان أو خوارزمية مالية تنفذ آلاف العمليات في ثوان فتتسبب بخسائر جسيمة أو تتلاعب بالسوق نتيجة سلوك لم يأمر به شخص بصورة مباشرة أو نظاما توليديا ينتج تسجيلا مزيفا بالغ الإتقان فيستعمل في الاحتيال أو الابتزاز أو تشويه السمعة
الضرر هنا حقيقي والنتيجة قد تكون مجرمة قانونا لكن البحث عن اليد التي ضغطت الزناد يقودنا إلى مكان مختلف تماما إلى خوارزمية
وهنا تبدأ المعضلة

فقد بنيت المسؤولية الجنائية تاريخيا حول فاعل يمكن مساءلته شخص قام بسلوك مادي وتوافرت لديه بحسب الجريمة صورة الركن المعنوي التي يشترطها القانون كالقصد أو العلم أو الخطأ
أما الذكاء الاصطناعي مهما بلغت قدرته على التحليل والتعلم واتخاذ القرارات فلا يملك في التصور القانوني التقليدي ضميرا يعاقب ولا إرادة بشرية يلام عليها ولا شعورا بالذنب يمكن أن تحقق العقوبة في مواجهته معناها الأخلاقي أو الردعي المعتاد
فكيف يحاكم القانون آلة لا تفهم معنى المحاكمة؟
إن وضع الخوارزمية مجازا في قفص الاتهام يكشف مفارقة عميقة قد نستطيع تحديد النظام الذي أحدث النتيجة لكن تحديد الشخص الذي يتحمل المسؤولية عنها أكثر تعقيدا
من المسؤول إذن؟
قد تبدأ سلسلة المسؤولية بالمبرمج الذي صمم النظام ثم تمر بالشركة التي طورته والجهة التي طرحته في السوق والمؤسسة التي اعتمدته والمشغل الذي استخدمه وتنتهي بالمستخدم الذي أصدر أمرا ما
لكن ماذا لو التزم كل واحد منهم ظاهريا حدود دوره؟
وماذا لو لم تكن النتيجة الضارة مكتوبة بصورة مباشرة في الشفرة بل نشأت عن تفاعل النظام مع كم هائل من البيانات والمتغيرات؟
هنا تظهر إحدى أكثر مناطق الذكاء الاصطناعي حساسية قانونيا فجوة المسؤولية
فكلما ازدادت استقلالية النظام وتعقيد طريقة وصوله إلى النتائج أصبح إثبات العلاقة بين خطأ إنساني محدد والضرر النهائي أكثر صعوبة
وقد نصل إلى مشهد غريب ضحية موجودة وضرر ثابت وفعل تقني معلوم لكن الفاعل القانوني محل نزاع
فهل نمنح الآلة شخصية قانونية؟
قد يبدو الحل لأول وهلة بسيطا إذا كانت الآلة تتخذ قرارات فلنجعلها مسؤولة عنها
لكن المسألة ليست بهذه السهولة
فالشخصية القانونية ليست مجرد اسم يوضع على ملف الدعوى والمسؤولية الجنائية ليست فاتورة مالية يمكن إرسالها إلى خادم إلكتروني
إذا حكم على نظام ذكي بالسجن فمن الذي سيسجن؟
وإذا فرضت عليه غرامة فمن أين سيدفعها؟
وإذا عوقب بحذفه أو تعطيله فهل عوقبت الآلة حقا أم عوقب مالكها ومستخدموها؟
الأخطر أن منح الأنظمة الذكية مسؤولية مستقلة بصورة متسرعة قد يتحول إلى ستار يختبئ خلفه البشر والمؤسسات فعوضا عن مساءلة من صمم أو نشر أو استثمر نظاما عالي المخاطر يصبح الجواب الأسهل الخوارزمية فعلت ذلك
وهكذا قد تتحول الشخصية القانونية للآلة من حل لفجوة المسؤولية إلى وسيلة لتوسيعها
وهنا نتساءل: هل الخوارزمية لا ينبغي إلا أن تكون كبش فداء؟ 
المشكلة في جوهرها ليست في البحث عن طريقة لمعاقبة الآلة بقدر ما هي في بناء منظومة تمنع المسؤولية البشرية من الذوبان داخل التعقيد التقني
فالذكاء الاصطناعي لا يظهر من فراغ
هناك من يصممه ومن يدربه ومن يحدد مجال استخدامه ومن يختار مستوى الرقابة البشرية عليه ومن يقرر نشره في بيئة قد تمس حياة الناس أو أموالهم أو حقوقهم
لذلك قد يكون السؤال الأكثر دقة ليس
هل ارتكب الذكاء الاصطناعي الجريمة؟ بل
من كان ملزما قانونا بمنع النظام من إحداثها وهل قام بما كان ينبغي عليه فعله؟
هذا التحول في السؤال مهم لأنه ينقل النقاش من البحث عن نية إجرامية داخل الآلة إلى فحص واجبات البشر المحيطين بها واجب التصميم الآمن والاختبار والرقابة والتحذير والتدخل والتتبع والتوقف عند ظهور المخاطر
فالصندوق الأسود أمام القاضي مشكلة أخرى لا تقل خطورة ففي الجريمة التقليدية يبحث المحقق عن بصمة أو تسجيل أو شاهد أو أداة للجريمة.. أما في الجرائم والحوادث المرتبطة بالذكاء الاصطناعي فقد يصبح مسرح الجريمة مجموعة من البيانات والسجلات الرقمية ونسخ النماذج وأوامر التشغيل ومسارات القرار
وقد يحتاج القاضي إلى إجابة عن سؤال يبدو بسيطا لكنه بالغ التعقيد
لماذا اتخذ النظام هذا القرار تحديدا؟
إذا تعذر تفسير القرار أو إعادة بناء مساره فإن المشكلة لن تكون تقنية فقط بل ستصبح مشكلة عدالة
فالعدالة التي لا تستطيع معرفة كيف وقع الضرر ستواجه صعوبة في تحديد من يتحمل تبعته
ومن هنا تصبح قابلية التتبع وحفظ السجلات والتوثيق والتدقيق المستقل والرقابة البشرية عناصر ذات قيمة قانونية لا مجرد مواصفات تقنية مرغوبة
فربما لا يحتاج المستقبل القريب إلى سجون للروبوتات بقدر حاجته إلى إعادة رسم خريطة المسؤولية
قد تتوزع المسؤولية بحسب الوقائع والقانون المنطبق بين المصمم والمطور والمورد والمشغل والمستخدم والمؤسسة المستفيدة وقد تستدعي بعض التطبيقات عالية المخاطر واجبات أشد من غيرها لأن من يضع تقنية قوية في مجال حساس لا يمكن أن يعامل دائما كمن يستخدم أداة عادية
وهنا ينبغي ألا يسبق الانبهار بالتكنولوجيا العدالة
فكلما ازدادت قدرة الآلة على اتخاذ القرار ازدادت الحاجة إلى معرفة الإنسان المسؤول عن حدود ذلك القرار
وفي ختام مقالي هذا : 
هل الذي سيطرق أبواب المحاكم سيكون من السهل مستقبلا أن نقول الذكاء الاصطناعي أخطأ؟ 
لكن القانون لن يستطيع الاكتفاء بهذه العبارة
سيحتاج إلى أن يسأل من اختار النظام؟ من صممه؟ من اختبره؟ من كان يعرف مخاطره؟ من كان يستطيع التدخل؟ من أهمل؟ ومن استفاد من تشغيله؟
لأن أخطر ما قد تصنعه الثورة الذكية ليس آلة ترتكب الخطأ
بل عالما يصبح فيه الخطأ موزعا بين عدد كبير من البشر إلى درجة لا يعود فيها أحد مسؤولا عنه
عندها لن تكون المعضلة أن الذكاء الاصطناعي دخل قفص الاتهام
بل أن يبقى قفص الاتهام ممتلئا بالخوارزميات بينما يغادره الإنسان المسؤول من الباب الخلفي.