حين تصبح الخوارزمية جنرالا الذكاء الاصطناعي واختبار الإنسان أمام أخطر تحولات الحرب

لم تعد أخطر الأسئلة التي يطرحها الذكاء الاصطناعي متعلقة بما يستطيع أن يفعله بل بما قد نسمح له بأن يقرره ، فحين تدخل " الخوارزمية " إلى غرفة العمليات العسكرية لا تعود المسألة مجرد تطور تقني في أدوات الحرب بل تصبح سؤالا عن الإنسان نفسه ، في : هل يستطيع العقل الذي صنع الآلة أن يحتفظ بسلطته الأخلاقية عندما تصبح الآلة أسرع منه في رؤية الخطر ، واختيار الهدف ، واقتراح الرد؟

فالحرب في صورتها القديمة كانت تحتاج إلى إنسان يقرر ، وجندي ينفذ ، وسلسلة واضحة من المسؤوليات ، أما الحرب المدعومة " بالذكاء الاصطناعي " فتفتح بابا مختلفا ، بابا يمكن أن تصبح فيه المسافة بين اكتشاف الهدف واتخاذ قرار تدميره أقصر من أن تسمح للضمير بأن يتدخل ، وهنا تكمن المفارقة الكبرى بأننا نصنع آلات أكثر دقة لكي نقلل أخطاء الإنسان ، لكننا قد نصنع في الوقت نفسه حربا أقل إنسانية ، لأن الدقة الحسابية لا تعني امتلاك البصيرة الأخلاقية ، وقد التقط البابا " لاوون الرابع عشر " جوهر هذا الخطر في رسالته العامة " الإنسانية الرائعة " ، حين حذر من أن أنظمة الأسلحة ذاتية التشغيل تجعل الحرب أكثر قابلية للتنفيذ وأقل خضوعا للرقابة البشرية ، ودعا من ذلك إلى إخضاع استخدام الذكاء الاصطناعي في الحرب لأشد القيود الأخلاقية ، والأكثر وضوحا أنه أكد أن القرارات القاتلة أو غير القابلة للعكس لا ينبغي أن تسلم إلى الأنظمة الاصطناعية لأن الحكم الأخلاقي ليس عملية حسابية ، إنه ضمير ومسؤولية واعتراف بالآخر بوصفه إنسانا

إن أهمية هذا التحذير تتجاوز الإطار الديني ، لأنه يلامس واحدة من أخطر أزمات الأمن الدولي المقبلة ، وهي : من المسؤول عندما تقتل الخوارزمية؟ ، فإذا أخطأ نظام ذكاء اصطناعي في تحديد هدف فمن يحاسب ؟ المبرمج ؟ الشركة ؟ القائد العسكري ؟ الدولة ؟ أم تختبئ الجريمة خلف عبارة باردة اسمها " خطأ خوارزمي " ؟ ، فالمشكلة أن الحرب لا تمنحنا دائما فرصة لإصلاح الخطأ ، لأن القرار الخاطئ في البرمجيات يمكن التراجع عنه ، أما القرار الخاطئ في ميدان القتال فقد يترك خلفه بيتا بلا أهل ، وطفلا بلا أب ، ومدينة تحمل ندبة لا تمحوها تحديثات النظام ، ولهذا فإن المعركة الحقيقية ليست بين الإنسان والآلة بل بين الإنسان الذي يستخدم التكنولوجيا والإنسان الذي يسمح للتكنولوجيا بأن تستخدمه

لذلك فالذكاء الاصطناعي يمكن أن يكون أداة لإنقاذ الأرواح كما يمكن أن يصبح أداة لإحصائها ، ويمكنه أن يساعد في منع الحرب كما يمكنه أن يجعل الحرب أسرع وأسهل وأقل تكلفة سياسية على من يقررها ، وقد لخص البابا الفكرة بعبارة شديدة الدلالة حين دعا إلى " نزع سلاح الذكاء الاصطناعي " أي ألا يتحول التفوق التقني تلقائيا إلى حق في الهيمنة ، وألا يصبح سباق الخوارزميات نسخة جديدة من سباق التسلح ، ففي النهاية لن يصبح السؤال المطروح : هل ستصبح الآلة أذكى من الإنسان؟ ، بل سيكون السؤال الأكثر رعبا هو : هل سيصبح الإنسان أقل حكمة كلما أصبحت آلاته أكثر ذكاء ؟ ، لأن الحضارات لا تسقط عندما تفشل في اختراع المستقبل ، وإنما عندما تمتلك القوة الكافية لصناعته ولا تمتلك الحكمة الكافية لتعرف أين يجب أن تتوقف.