الذكاء الاصطناعي الخاطئ كاد يشعل حرباً عالمية ثالثة

وسط انهمار من الأخبار التي تحذر من آلات ذكية فائقة قد تقضي على البشرية، ظل حدث مختلف تماماً بعيداً عن أنظار الجمهور: تقرير من شبكة "سي إن إن" يروي كيف كادت الاعتماد الأمريكي العسكري على أنظمة دردشة هشة أن يجر الولايات المتحدة إلى حرب مع الصين.

أكبر خبر حول الذكاء الاصطناعي في الأسابيع الثلاثة الماضية كان استقالة مهندس إحدى شركات متخصصة في هذا المجال. ووفقاً لتصريحاته، فإن شركتي OpenAI و Anthropic "تندفعان بسرعة نحو ذكاء اصطناعي قابل لتحسين نفسه بنفسه، وتراهنان برؤوسنا". تفسيره لسيناريو "المحارب الآلي" - آلة تصبح أذكى من البشرية بكثير وتقرر إبادتنا - استقطب اهتمام الجمهور والصحفيين والساسة على حد سواء، وأثار موجات من التغطيات الإعلامية المثيرة للخوف والتشريعات السياسية.

أصدر حاكم كاليفورنيا جافين نيوسوم أمراً بإنشاء "مفتاح إيقاف للذكاء الاصطناعي"؛ وتستكشف حاكمة نيويورك كاثي هوكول إمكانية توفر "مفاتيح إيقاف" مماثلة؛ وقدم السيناتور بيرني ساندرز والنائب جريج كاسار تشريعات "لحظر الذكاء الاصطناعي الخارق".

مع ذلك، بينما كان الكثيرون منا منشغلين بآلات ذكية خيالية قيل لنا أنها قد تسبب انقراض الإنسان، كانت هناك قصة أخطر تُروى في الصحافة.

سلسلة أحداث كادت تجرنا إلى الفناء - لا بسبب "ذكاء اصطناعي متمرد خارق"، بل بسبب اعتماد حكومي على أنظمة معرضة للأخطاء يسوّقها مصنعوها على أنها قريبة جداً من أن تكون ذكاء اصطناعياً خارقاً.

تقرير نشرته "سي إن إن" في 18 سبتمبر - لم يُتحقق منه من قبل منافذ إعلامية كبرى أخرى - يصف كيف كانت الولايات المتحدة "على وشك شن حرب" مع الصين، استناداً إلى تقرير استخبارات يزعم أن سفينة صينية تنقل مكونات أسلحة نووية. وضع العسكريون خطة لاعتراض السفينة الصينية، مع طائرات وجنود مستعدين للصعود إلى متنها. اشتباك عسكري من هذا النوع بين الصين والولايات المتحدة قد يتصعد بسرعة ويتحول إلى حرب عالمية ثالثة.

في لحظات قبل تنفيذ الخطة فقط، أعاد المسؤولون الأمريكيون التحقق من تقرير الاستخبارات، فاكتشفوا أنه جُنِّد باستخدام نموذج دردشة وكان يحتوي على معلومات خاطئة عن محتويات السفينة.

على عكس سيناريو "الذكاء الاصطناعي المتمرد" الكاسح، لم تحفزّ هذه الحادثة المشرعين على الإعلان عن دعوات للتنظيم لتجنب الانقراض البشري المحتمل. منفذ إعلامي تلو الآخر لم يحذر الجمهور من أننا كدنا نشعل حرباً ضد قوة نووية عظمى بسبب اعتماد جيشنا على أنظمة دردشة معيبة.

نحن نصف نماذج اللغات الكبيرة التي تدعم هذه برامج الدردشة بوصفها "ببغاوات عشوائية" - أي نماذج مصممة لإعادة إنتاج الأنماط الموجودة في البيانات التي تم تدريبها عليها. التغطيات الإعلامية التي تصف هذه الأنماط بأنها نماذج "قوية" و"متمردة" قد تمحو البشرية بنفسها وحدها، تعزز فكرة أن الأدوات المبنية على هذه النماذج موثوقة بما يكفي لاستخدامها في سيناريوهات عالية المخاطرة مثل الحرب.

حتى التغطية الأكثر انتقاداً من "سي إن إن" تصف برنامج الدردشة الذي يستخدمه الجيش الأمريكي بأنه يشكل "مخاطر عميقة" لأنه "تكنولوجيا قوية وجديدة وغير مفهومة نسبياً".

في الواقع، نماذج اللغات الكبيرة اليوم وبرامج الدردشة التي تدعمها لا تُساء فهمها، كما أنها ليست "قوية" بمعنى أنها أدوات فعالة لهذه الحالة الاستخدامية. إنها أنظمة لتوليد نص يبدو معقولاً، مبنية من مجموعات بيانات ضخمة تم جمعها بشكل عشوائي، ثم "ضُبِطت" أي تم تدريبها إضافياً لتكون بشكل خاص جذابة لمستخدميها المقصودين.

لم تتمكن "سي إن إن" من التعرف على أي منتج دردشة تم استخدامه في هذه الحالة، لكن نموذج اللغة الذي يدعم المنتج كان من المحتمل أن يكون قد ضُبِط لإخراج نصوص بها العلامات الأسلوبية لتقارير الاستخبارات. الوظيفة الأساسية والمخاطر المرتبطة بمثل هذا النموذج كانت مفهومة جيداً وموثقة بشكل جيد لسنوات، بما في ذلك في ورقتنا البحثية عام 2021 "حول مخاطر الببغاوات العشوائية: هل يمكن أن تكون نماذج اللغة كبيرة جداً؟"

المطالبات بأن سلوك النظام غامض ينبع من تمويه مقصود من قبل من يبيعون هذه الأنظمة، وسوء فهم حول ما يمثله مخرجاتها من قبل من يشترونها ويستخدمونها.

على عكس الادعاءات غير العلمية والخيالية من رؤساء OpenAI و Anthropic ومن يكررون نقاط حديثهم بدون تمحيص، فإن الأضرار الضارة والموثقة بشكل جيد لمنتجات هذه الشركات نشأت لأن الناس يعتقدون أن المنتجات ذكية فائقة، وليس لأنها في الواقع كذلك.

من "كتاب" الذكاء الاصطناعي المستخدمة في المستشفيات والتي تصنف بشكل خاطئ المرضى بأنهم مستخدمون غير قانونيين للعقاقير، إلى الحكومات التي تقتل الأطفال بعد الاعتماد على أنظمة "تحليل الاستخبارات" التي تخطئ في تصنيف المدارس كمنشآت عسكرية، نشهد الأضرار المتوقعة التي تأتي من الثقة الخاطئة في برامج آلية غير موثوقة.

في الوقت نفسه، تحذر حملات التسويق من الشركات التي تبيع هذا البرنامج من ذكاء اصطناعي خارق وشيك، محولة انتباهنا بعيداً عن المخاطر الحقيقية نحو خيالات الكوارث الخاصة بهم.

حان الوقت لتنظيم استخدام الأنظمة المباعة بوصفها "ذكاء اصطناعي" - ليس لأنها آلات سحرية، بل لأنها منتجات معيبة لا يجب استخدامها في سيناريوهات عالية المخاطر. أي أتمتة مستخدمة في المواقف العسكرية أو الطبية أو غيرها من الحالات التي تتعلق بالحياة والموت يجب أن تُقيّم بشكل شامل ضمن حالتها الاستخدامية الخاصة، وأن تقترن بمعايير استخدام تحافظ على المساءلة لدى الأشخاص الذين لديهم سلطة فعلية لاتخاذ القرارات.

كما ذكّرتنا رئيسة لجنة التجارة الفيدرالية السابقة لينا خان مراراً وتكراراً، لا يوجد استثناء للقانون عندما يتعلق الأمر بالذكاء الاصطناعي: هناك قوانين موجودة يمكن للوكالات الفيدرالية والمنظمين الآخرين فرضها لحماية الجمهور من الممارسات غير الآمنة وغير العلمية التي تتبعها صناعة الذكاء الاصطناعي في دفع منتجات معيبة بينما تسوّقها على أنها "ذكاء سحري في السماء".

السير جنباً إلى جنب مع رؤساء الشركات ووصف منتجاتهم بأنها كائنات لها وكالة مستقلة يسمح لهؤلاء الرؤساء بالإفلات من المساءلة وخداع الجمهور. ندعو الصحفيين والمشرعين إلى محاسبة الشركات بدلاً من تكرار نقاط تسويقهم.