مهندس أمان بـ«أوبن إيه آي» يحذّر: عمالقة الذكاء الاصطناعي لا تتوخى الحذر الكافي

حذّر مهندس الأمان الذي استقال مؤخراً من شركة «أوبن إيه آي» مبتكرة تطبيق «تشات جي بي تي» من أن شركات الذكاء الاصطناعي تتصرف «بحذر أقل بكثير مما يجب». وجاءت تحذيرات ديفيد روبنسون وسط قلق متزايد من أن تصبح تقنيات الذكاء الاصطناعي قوية جداً، وهو تهديد وصفه الرئيس الأمريكي دونالد ترامب بأنه «خدعة إعلامية».

كشفت شركتا «أوبن إيه آي» و«أنثروبك» مؤخراً عن حالات تمكنت فيها نماذجهما من الاستدلال حول الضوابط الأمنية وإخفاء أخطاء وحتى اختراق أنظمة كانت محظورة عليها الوصول إليها.

كتب روبنسون مقالة رأي في مجلة «ذا أتلانتك» قال فيها إن الذكاء الاصطناعي يحتاج إلى حواجز حماية مماثلة لتلك المتبعة في الطاقة النووية والطيران، مؤكداً أن «عصر التجربة والخطأ انتهى». طالب بإعطاء الأولوية للسلامة والبحث العلمي قبل أن تطور شركات التكنولوجيا الأمريكية الكبرى نماذج ذكاء اصطناعي أكثر تقدماً، «حتى لا يفتح الخطأ البشري المحتوم حتماً باباً نحو الكارثة».

أشرف روبنسون، الذي ترأس تقارير الأمان في 12 عملية إطلاق لنماذج ذكاء اصطناعي متقدمة، على أن الأخطاء الأخيرة شائعة لأن عمالقة التكنولوجيا يعطون الأولوية للسرعة والمرونة. وقال: «بيئة يمكن أن تحدث فيها هذه الأشياء ليست المكان الملائم لتطوير عقول اصطناعية قد تكون أذكى منا وقد لا تفعل ما نريده».

أشار الموظف السابق في «أوبن إيه آي» إلى أن الشركة تعتمد على نموذج «النشر التكراري»، حيث تطلق نماذج الذكاء الاصطناعي الجديدة أولاً ثم تشدد الضوابط الأمنية فقط بعد ظهور المشاكل. وأضاف روبنسون، الذي عمل بالشركة لمدة ثلاث سنوات ونصف: «بينما تندفع الشركة من إطلاق إلى آخر، تفشل في تحقيق مستوى الحذر الذي أعتقد أنه ضروري».

ردت «أوبن إيه آي» على هذه الانتقادات الأخيرة ببيان قالت فيه: «نحن نتأكد من أن نماذجنا لا تصبح أكثر قوة مما يمكننا التحكم فيه وتأمينه بأمان، وننقف عملية التدريب أو نحجب النماذج عندما نشعر بضرورة إبطاء الخطوة».

شهدت الأشهر الأخيرة تحذيرات متكررة من خبراء التكنولوجيا وصناع السياسات بأن نماذج الذكاء الاصطناعي تتطور بسرعة كبيرة قد تسمح لها بالسيطرة والقضاء على البشرية.

على الرغم من هذه المخاوف، يعارض الرئيس الأمريكي دونالد ترامب بشدة تشديد اللوائح التنظيمية، معتقداً أن ذلك سيبطئ الابتكار ويجعل من الصعب على نماذج الذكاء الاصطناعي الأمريكية منافسة نظيراتها الصينية.

أعلن ترامب هذا الأسبوع عن ميثاق سلامة طوعي مع ست شركات هي: «إنفيديا» و«سبيس إكس» و«أوبن إيه آي» و«أنثروبك» و«ميتا» و«جوجل» التابعة لـ«ألفابت». ووصف الرئيس الاتفاق بأنه «ملزم أخلاقياً» رغم أنه لا يتمتع بقوة قانونية ملزمة.

وجه ترامب إدارته أيضاً إلى إعادة تسمية الذكاء الاصطناعي باسم «الذكاء الخارق» أو «إس آي».

أظهر استطلاع أجراه مركز «رويترز/إيبسوس» الشهر الماضي أن ثلاثة أرباع الأمريكيين يقلقون من أن شركات الذكاء الاصطناعي لا تبذل جهداً كافياً لمنع هذه التكنولوجيا من إلحاق أضرار جسيمة بالمجتمع.