الذكاء الاصطناعي يحتاج إلى أكثر من مجرد إبطاء الوتيرة

شهدت أسابيع الذكاء الاصطناعي الأخيرة منعطفاً درامياً، بدأ باستقالة باحث الأمان جاكوب كوكسون من شركة Anthropic، عقب كشفيات مثيرة للقلق حول حادثة OpenAI وHugging Face.

أثارت هذه التطورات اهتماماً إعلامياً كبيراً، حتى أن رسالة وصلت صندوق بريدي بعنوان: «نقاش يوم القيامة في الذكاء الاصطناعي يصل لنقطة الغليان».

الآن أصدر الرئيس التنفيذي لشركة Anthropic، داريو أمودي، رسالة طويلة بـ 3800 كلمة بعنوان «يجب أن نضبط حدود الابتكار»، يقترح فيها سبلاً لتجنب يوم القيامة أو على الأقل تأجيله. أعرب سام ألتمان من OpenAI، وإيلون ماسك من xAI، وديميس هاسابيس من Google DeepMind، وساتيا نادويلا من Microsoft عن دعمهم للمقترح.

قد يعذر المرء نفسه لعدم فهمه الفوري معنى عبارة «ضبط حدود الابتكار». قد يتخيل البعض صورة أمودي يسير بتأمل عميق على الحدود الفنلندية الروسية.

ظهرت هذه العبارة سابقاً في رسالة مفتوحة نشرت في يوليو الماضي، وقعها 1386 موظفاً من شركات الذكاء الاصطناعي الرائدة، بينهم أمودي نفسه. تلك الرسالة أثارت استياء مسؤولي العلاقات العامة بسبب إشارات الموقعين إلى «الافتقار التام لخطط موثوقة للسيطرة على أنظمة الذكاء الاصطناعي فائقة الذكاء» وتأكيدهم أن «بناء أنظمة أذكى من البشر هو، بموضوعية، أمر جنوني وانتحاري». بينما يسعى مونوغراف أمودي جاهداً لتهدئة المستثمرين.

تستمد فكرة ضبط حدود الابتكار من سباقات الفورمولا 1: عندما تصبح الظروف خطيرة للسباق، تدخل سيارة التحكم المسار وتُجبر السيارات الأخرى على اتباعها بسرعة آمنة. يستمر التقدم، لكن دون خطر.

كتب أمودي: «لكي نكون واضحين، ضبط الوتيرة لا يعني إيقاف تدريب النماذج أو التقدم التكنولوجي».

تنبع رسالة أمودي من قلقه من أن «الذكاء الاصطناعي يتقدم بسرعة هائلة، مدفوعاً بشكل أساسي بالتحسن الذاتي المتكرر». إنهم وسام ألتمان يجدان أنفسهما يقودان سيارتي الفورمولا 1 بسرعة 200 ميل في الساعة، يتسابقان باتجاه المنعطف الأول، فقط ليكتشفا أنه مغطى بالجليد وأنهما لا يملكان عجلة توجيه. لا عجب أنهما يريدان الإبطاء.

باختصار، اقتراح أمودي يتضمن ثلاثة أجزاء. الأول يتمثل في وجود محيِّمين خارجيين للأنظمة داخل كل شركة، مع وصول كامل إلى الأنظمة؛ وقد التزم أمودي بهذه الخطة فوراً دون انتظار الحكومة.

الجزء الثاني من الخطة يطلب من جميع شركات الذكاء الاصطناعي الرائدة في «الدول الديمقراطية» أن تضع «معايير أمان مشتركة وحدوداً لمعدل التقدم غير المضبوط في الذكاء الاصطناعي»، مع التنظيم الحكومي حيث يلزم. أما الجزء الثالث فيشمل «الدول الاستبدادية» في اتفاق أوسع.

هنا، يسعى أمودي جاهداً لتطمين صناع القرار بواشنطن الذين يعتبرون تفوق أمريكا في الذكاء الاصطناعي أهم أصول جيوسياسية.

عند قراءة سطحية، توجد أسباب عديدة للاعتقاد بأن أمودي يدعو لتخفيف عام لوتيرة التقدم. يتحدث عن «حدود لمعدل التقدم غير المضبوط» و«نوع من حد السرعة على معدل التحسن الذاتي المتكرر». يقول: «سيبدو التقدم سريعاً بالفعل، ويجب أن نستفيد بحكمة من الوقت الإضافي الذي نكسبه».

إبطاء الوتيرة سيمنح الشركات وقتاً أطول قليلاً للعمل على الأمان؛ يتحدث أمودي عن سنة أو سنتين إضافيتين للبحث في قابلية التفسير والتنسيق والاختبارات الأفضل.

دعني أتوقف هنا للرد على منتقدي أمودي الذين يقولون إن هذا مجرد محاولة لتعزيز موقع Anthropic بمساعدة التدخل الحكومي. هذا غير صحيح. في الواقع، صفحة ويكيبيديا عن ضبط الوتيرة في سباقات الفورمولا 1 تقول إنها «تلغي أي ميزة زمنية أو مسافة قد يتمتع بها السائق الرائد على باقي المتنافسين».

مع ذلك، أعتقد أن استعارة ضبط الوتيرة مضللة تماماً.

لا يمكننا تحديد وتيرة أبطأ للتطور التقني ثم الأمل بأن يوفر هذا وقتاً كافياً لضمان السلامة. متطلبات السلامة غير قابلة للتفاوض. يجب أن نضع متطلبات السلامة أولاً، وتحدث خطوات التقدم فقط عند استيفاء هذه المتطلبات.

تخيل لو قالت بوينغ: «سننتج طائرة جديدة كل عام، ونأمل أن يوفر هذا وقتاً لإجراء بعض اختبارات الطيران والحصول على نتائج جيدة».

كنا سنقول: «لا، لديكم الأمور مقلوبة؛ يمكنكم تقديم طائرة جديدة فقط عندما تجتاز جميع الاختبارات وتصدر الحكومة شهادة الصلاحية. إذا استغرق هذا أكثر من عام، فليكن».

قراءة أكثر تمعناً للوثيقة تشير إلى أن أمودي يتفق مع هذا الاعتراض. على سبيل المثال، يقول إن القواعد يجب أن تأخذ هذه الصيغة: «إذا كانت النماذج تمتلك القدرة X، فيجب أن تصحبها شهادات تأكيد خصائص المحاذاة Y و Z».

بكلمات أخرى، نضع متطلبات السلامة أولاً، والمطورون يجب أن يثبتوا استيفاءهم لها. هذا هو فعلاً نهج «الخطوط الحمراء» الذي يدعو إليه باحثو أمان الذكاء الاصطناعي.

وهذا يعني أنه إذا عجز المطورون عن استيفاء متطلبات السلامة، فعليهم التوقف. كان سيكون، بمصطلحات الفورمولا 1، علماً أحمر وليس سيارة تحكم.

لا توجد بديل معقول. التحسن الذاتي المتكرر المؤدي لذكاء اصطناعي فائق يرفع من خطر فقدان السيطرة البشرية بشكل لا رجعة فيه. مستوى المخاطرة المقبول لفقدان السيطرة ربما واحد من مئة مليون سنة، وليس واحد من عشرة أو واحد من خمسة كما يقدره الرؤساء التنفيذيون للذكاء الاصطناعي حالياً.

وتذكروا «الافتقار التام لخطط موثوقة للسيطرة على أنظمة الذكاء الاصطناعي فائقة الذكاء». في مرحلة ما، سيتوقف التقدم على هذا المسار التكنولوجي، ليس لأن التقدم الإضافي مستحيل، بل لأنه غير مقبول عندما تكون التكنولوجيا غير آمنة بطبعها. للإنسانية الحق في حماية نفسها.

هناك مقاومة ضخمة لهذه الخلاصة. بذلنا بالفعل تريليونات الدولارات على هذا المسار التكنولوجي ونخطط لبذل تريليونات أخرى. لكن الخطأ في المنطق بسبب الاستثمار السابق محض وهم؛ إذا مضينا في تضخيم الخطأ، فإنه يبقى خطأً.

مستوى الاهتمام الحالي بمخاطر الذكاء الاصطناعي، والإجماع بين قادة التكنولوجيا الرائدين، والقمة المرتقبة بين ترمب وشي جين بينغ تمنحنا فرصة حقيقية لاختيار مسار مختلف. يجب أن ننتهزها.