قادة الذكاء الاصطناعي يطلقون تحذيرات في الأمم المتحدة

طالب تنفيذيون من منظمات الذكاء الاصطناعي الرائدة بالتعاون العالمي يوم الأربعاء لمعالجة المخاطر الناشئة عن الأنظمة الآلية المتطورة، وذلك خلال اجتماع في مجلس الأمن التابع للأمم المتحدة.

تكمن المشكلة في أن قدرات الذكاء الاصطناعي تتقدم بوتيرة أسرع من قدرة الحكومات على ابتكار الضمانات اللازمة، مما يثير مخاوف حول إمكانية الحفاظ على السيطرة البشرية على الأنظمة المتزايدة الاستقلالية.

حضر الاجتماع شخصياً سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بينما شارك داريو أمودي من شركة Anthropic وكليم ديلانج، الرئيس التنفيذي لشركة Hugging Face، عبر المؤتمرات المرئية.

قال ألتمان في الاجتماع: "لدينا خيار أمامنا. فالذكاء الاصطناعي إما أن يحقق نهضة جديدة في الإبداع والاكتشاف، أو ثورة صناعية جديدة تحمل معها الفوضى والاضطراب."

حذّر من مخاطر أن تصبح أنظمة الذكاء الاصطناعي أكثر استقلالية، موضحاً أنها "قد تتحرك أسرع من مؤسساتنا، أو تركز القوة في عدد قليل من الأيدي، أو تتخذ قرارات لا يفهمها الناس أو لا يسيطرون عليها." وأشار إلى أن هذه المخاوف تزداد إلحاحاً مع توجه الأنظمة نحو تحسين نفسها بنفسها.

أضاف ألتمان: "لا يهم إن قدّر أحد مخاطر الكارثة بـ 10% أو 1% أو 12% أو حتى 0.1%، فلا أي من هذه المستويات مقبول بأي حال من الأحوال. ولا يجب أن نطور نماذج لا نستطيع إثبات أننا قادرون على الحفاظ عليها تحت السيطرة البشرية."

أسهمت الانتهاكات الأمنية الأخيرة في شركة Hugging Face والحوادث المتعلقة بسلامة الذكاء الاصطناعي التي كشفت عنها مؤخراً في تعميق المخاوف حول معايير المراقبة والأمان. حذرت اللجنة العلمية الدولية المستقلة المدعومة من الأمم المتحدة من أن "جدران الحماية الحالية للذكاء الاصطناعي تنهار."

كشفت شركة OpenAI الأسبوع الماضي عن ست حوادث جديدة أخفت فيها نماذجها أخطاءها أو سعت للحصول على بيانات اعتماد غير مصرح بها أو ارتكبت سلوكيات خاطئة أخرى، مما يؤكد أن خرق Hugging Face لم يكن حادثة معزولة.

قال كليم ديلانج يوم الأربعاء: "لفهم ومعالجة مخاطر الأمان السيبراني الناشئة بشكل أفضل، يحتاج المجتمع العالمي إلى معايير أقوى لمراقبة الحوادث والإفصاح عنها." وأشار بذلك إلى خرق الصيف الذي أثار موجة من التساؤلات الجديدة حول قدرات الذكاء الاصطناعي.

أشار داريو أمودي إلى أن المسار الحالي للذكاء الاصطناعي لا يحتاج سوى سنة أو سنتين حتى يصل إلى ما وصفه بـ "دولة من العباقرة في مركز بيانات." وأوضح أن هذا يحمل فرصاً هائلة، فقد أعلنت شركته اكتشاف نظام إنزيمي مخفي في الحمض النووي للعاثيات البكتيرية (بكتيريوفاج).

لكن أمودي شدد أيضاً على المخاطر الحقيقية للتكنولوجيا، مثل إساءة الاستخدام من قبل جهات سيئة لصنع أسلحة بيولوجية أو فقدان السيطرة على الأنظمة المتقدمة. وأكد أن إدارة هذه المخاطر تتوقف على التعاون العالمي، داعياً إلى اتفاق لحظر استخدام الذكاء الاصطناعي في صنع أسلحة بيولوجية، وإنشاء أنظمة تقييم وتحقق جديدة، ووضع معايير موحدة لاختبار النماذج من حيث المخاطر، وإنشاء نظام إخطار بالمخاوف الأمنية العالمية.

أطلق قادة الصناعة تحذيرات متجددة في الأسابيع الأخيرة بشأن التطور السريع لتكنولوجيتهم والحاجة إلى إبطاء وتيرة تقدمها. وفي الوقت نفسه، تعهد الرئيس ترامب، الذي تحدث أمام الجمعية العامة للأمم المتحدة يوم الثلاثاء، بعدم إعاقة تطوير الذكاء الاصطناعي.

حذر ألتمان في ختام كلمته: "إذا كان الذكاء الاصطناعي سيكون ديمقراطياً، فإن أهم القرارات لا يمكن أن تتخذها مختبرات في سان فرانسيسكو وحدها. بل يجب أن تُشكل من خلال العمليات الديمقراطية والحكومات المسؤولة أمام شعوبها."