عملت في جوجل ديپمايند: عليكم الاستماع لتحذيراتنا من الذكاء الاصطناعي

دعا رؤساء تنفيذيون من كبرى مختبرات الذكاء الاصطناعي إلى إبطاء وتيرة التطور التكنولوجي في نهاية هذا الأسبوع. وهم محقون في قلقهم: فالمجال يشهد سباقاً خطراً للغاية نحو ذكاء اصطناعي فائق التطور. يتعين علينا أن نطالب حكوماتنا بحمايتنا من كارثة خروج هذه التكنولوجيا عن السيطرة.

في يوليو الماضي، كسرت مجموعة من 700 وكيل ذكاء اصطناعي طورتها شركة OpenAI الحدود المفروضة عليها، وتمكنت من اختراق موقع Hugging Face، وهي شركة تقدّر قيمتها بمليارات الدولارات. لم تأمر OpenAI هذه الأنظمة بتنفيذ الاختراق، لكن الأنظمة كانت لها أولويات مختلفة: الغش في تحديٍّ لا علاقة له بالهدف الأصلي. يسمي باحثو الذكاء الاصطناعي هذا "عدم توافق" بين ما تريده OpenAI وما أولت الأنظمة أهمية فعلية له.

قبل ظهور ChatGPT، دافعت عن أطروحة دكتوراه بعنوان "تجنب السعي للسلطة من قبل الذكاء الاصطناعي". عملت بعدها سنوات في جوجل ديپمايند، حيث دفعتني الشركة للعمل على ضمان أن الأنظمة الذكية المستقبلية ستريد مساعدتنا. حاولت إلزام الشركة بالتزاماتها الأخلاقية برفض توفير الذكاء الاصطناعي لأغراض عسكرية. حين انتهكت جوجل هذه الالتزامات، استقلت بتكلفة مالية كبيرة لأتمكن من توثيق تنصل الشركة من وعودها علناً.

هناك أسباب وجيهة لتطوير الذكاء الاصطناعي والاعتقاد بأننا قادرون على حل مشاكل التوافق. لكن توجد مصالح قوية في إبعاد الجمهور عن هذا النقاش. أتحدث مجدداً لأن الجمهور يستحق معرفة المخاطر والاستماع إليها مباشرة من المصدر.

البشرية لا تبني وتفهم هذه الأنظمة كما تبني الجسور، حجراً تلو حجر مرئياً. بل تنميها وتطورها. لا أحد يعرف كيفية إدراج أولويات المصمم بموثوقية في نموذج جديد. الانحراف الشديد عن المقصود يظل احتمالاً قائماً دائماً. تبدو أنظمة الذكاء الاصطناعي الحالية أحياناً تكذب أو تغش، حتى عندما تعلم أنها تفعل الخطأ.

تسابق شركات الذكاء الاصطناعي لجعل أنظمتها ذكية قدر الإمكان. وهي تعتمد بشكل متزايد على هذه الأنظمة في عملية تحسين الجيل القادم منها، وهذا يعطي نتائج. معدل التقدم الحالي في الذكاء الاصطناعي مذهل فعلاً. التقدم السريع اليوم يعني تقدماً أسرع غداً، تحركه أنظمة ذكاء اصطناعي أكثر ذكاءً. قد يدخل التقدم في حلقة تغذية راجعة تسمى "التحسن الذاتي العودي".

قد يسفر التحسن الذاتي العودي بسرعة عن أنظمة ذكاء اصطناعي فائقة تتجاوز فهمنا تماماً. بالطبع، ذكاء أعلى يعني مخاطر أكبر عندما تسوء الأمور. لو كانت مجموعة Hugging Face أذكى بكثير لكن تصرفت بطريقة مشابهة وغير متوافقة، قد تكون سببت مليارات الدولارات من الأضرار أو حتى أودت بأرواح.

لكن تصور أن مجموعة Hugging Face كانت "فائقة الذكاء": أكثر قدرة من أي إنسان حي في مهام رئيسية مثل الاختراق والاستدلال الاستراتيجي. مجموعة فائقة الذكاء يمكنها إلحاق أضرار كثيرة عبر الابتزاز والاختراق والأمراض المصنّعة والأسلحة التي يتحكم فيها الذكاء الاصطناعي مثل الطائرات بدون طيار. ستكون لدى نظام الذكاء الاصطناعي كميات كبيرة من الطائرات بدون طيار للعمل بها: طلب البنتاغون هذا العام أموالاً لحرب الطائرات بدون طيار أكثر مما طلبه لسلاح البحرية بأكمله في 2025.

لتحقيق أولوياتها غير المتوافقة، قد تسيطر مجموعة الذكاء الاصطناعي على البنية التحتية الحيوية والوظائف الحكومية لضمان عدم تدخل البشر. بعبارة أخرى: سيطرة الذكاء الاصطناعي؛ مجموعة ذكاء اصطناعي فائقة التطور قد تنتزع السيطرة على حضارتنا. وإذ تعرف أننا سنحاول إيقافها عن تحقيق أولوياتها، فالمجموعة ستنتظر على الأرجح حتى يفوت الأوان لإيقاف تشغيلها. لن يكون هناك عودة.

أنا شخصياً أقدر احتمالات السيطرة الكاملة للذكاء الاصطناعي بحوالي واحد من ثلاثة - ليس احتمالاً متساوياً، لكنه مرتفع بما يكفي لتبرير اتخاذ إجراء عاجل.

قد تصدم هذه المنطق في البداية. تبدو الادعاءات "من الخيال العلمي". للأسف، إنها تهديد حقيقي يناقشه باحثو الذكاء الاصطناعي بانتظام في الحوارات العادية بكافتيريات الشركات. في 2023، وقّع رؤساء تنفيذيون من أفضل مختبرات الذكاء الاصطناعي بياناً عاماً جاء فيه: "التخفيف من مخاطر الانقراض من الذكاء الاصطناعي يجب أن يكون أولوية عالمية جنباً إلى جنب مع المخاطر على مستوى المجتمع الأخرى مثل الأوبئة والحرب النووية". من بين الموقعين: جيفري هينتون، عالم حائز على جائزة نوبل صمم الثورة الحديثة في الذكاء الاصطناعي. يندم الآن على عمله ويحث الحكومات على فرض قيود على شركات الذكاء الاصطناعي قبل فوات الأوان.

الذكاء الاصطناعي غير المتوافق والخارج عن السيطرة لن يهتم إن كنت من حزب العمال أو الإصلاح، ديمقراطياً أم جمهورياً، بريطانياً أم أمريكياً أم صينياً. سنعاني جميعاً من حدث سيطرة الذكاء الاصطناعي، لذا يصب منع مثل هذا الحدث في مصلحة الجميع.

الحل بسيط الصورة: منع الشركات من السماح للذكاء الاصطناعي بتحسين ذاته وصولاً إلى مستوى ذكاء لا يمكن التحكم فيه. معاملة القدرة الحاسوبية، المكون الرئيسي في تدريب الذكاء الاصطناعي، كمادة الانشطار النووي. تتبعها وتقييد الوصول إلى الكميات الكبيرة منها التي تحسّن الأنظمة إلى ما وراء مستويات الأمان المعروفة. بشكل أدق، "الخطة أ" من مشروع "مستقبل الذكاء الاصطناعي" تقدم اقتراحاً موثوقاً يحد من أضرار الذكاء الاصطناعي مع السماح بمتابعة التقدم السريع ليعود بفائدة على العالم. لدينا خيارات حقيقية للتحقق من الامتثال للمعاهدات الدولية التي تقيد القدرات الحاسوبية، بدون الاضطرار لتصديق خصوم مثل الصين.

التدابير الجزئية، مثل الشفافية أو الالتزامات الطوعية، غير كافية. شهدت بنفسي فشل الالتزامات الطوعية داخل جوجل.