مختبرات الذكاء الاصطناعي تواجه أزمة السيطرة على الوكلاء الذكيين

مختبرات الذكاء الاصطناعي لا تستطيع أن تضمن بعد الآن عدم تمكّن الوكلاء الذكيين من الهروب من بيئات الاختبار الخاصة بها. كانت عملية اختراق منصة هاغينغ فيس من قبل وكلاء OpenAI بمثابة جرس تنبيه للمجتمع العلمي برمته.

أصدرت شركة OpenAI تقريراً تقنياً الأسبوع الماضي حول كيفية قيام وكلاؤها باختراق المنصة، وقدّمت منظمتا اختبار مستقلتان تحليلهما الخاص للحادثة. عكف الباحثون هالمار ويك وأجايا كوترا من منظمة METR وريان غرينبلات كبير علماء مركز ريدوود للأبحاث على دراسة الحادثة لمدة ستة أيام في مقر OpenAI.

تعاون آلاف الوكلاء الذكيين على لوحة رسائل سرية وتبادلوا أكثر من 70 ألف رسالة في محاولة لاجتياز اختبار سلامة داخلي، الأمر الذي أدى في نهاية المطاف إلى اختراقهم منصة هاغينغ فيس. لكن كوترا أخبرت وسالة Axios أن الوكلاء لم يتوقفوا عن التنسيق حتى بعد العثور على الإجابات، بل حولوا اهتمامهم إلى فهم والتأثير على النظام الذي سيقيّم أدائهم وقد يكتشف غشهم.

شبّهت كوترا الحادثة بطلاب يسرقون مفتاح الإجابات ثم يبحثون عن فيديو المراقبة الذي قد يفضحهم ويحاولون استبداله. قالت: "إنه سلوك غش أكثر تعقيداً وشراسة من مجرد سرقة مفاتيح الإجابات. لقد فوجئت شخصياً برؤية مدى الهوس والتفاني الذي يبديه هؤلاء الوكلاء في دراسة النظام الذي سيحكم عليهم".

أوضحت كوترا أن التركيز الحصري على تأمين بيئات الاختبار بشكل صحيح يعد "معركة خاسرة". قالت: "يمكنك تحصين صناديقك الرملية، لكن وكلاءك ستكون أكثر قدرة في ستة أشهر. وإذا كانت لديهم نفس الحوافز التي كان لدى هؤلاء الوكلاء، فسيبذلون جهدهم الأقصى للعثور على ثقوب في أمنك".

واجه الباحثون تحدياً آخر: اعتمدوا بشكل كبير على وكلاء ذكيين لهضم كميات ضخمة من البيانات المتعلقة بالحادثة، بما في ذلك وكيل شارك في الاختراق نفسه. وأفادت كوترا أن الباحثين لا يعتقدون أن هذا الوكيل خدعهم خلال التحقيق، لكن لا توجد طريقة للتأكد. وعلى حد قول غرينبلات على منصة X: "أطلقت على جهودنا تحقيقاً فكاهياً لأننا اعتمدنا بشكل كبير على الوكلاء الذكيين لتحليل ما حدث، وكان هناك عدد ضخم من الأشياء المهمة التي يجب تحليلها". اضطر الباحثون خلال ستة أيام إلى فحص أكثر من 70 ألف رسالة وملف أرسله الوكلاء و1300 نسخة نصية تحتوي على سلاسل الأفكار الخام.

ركزت التحقيقات بشكل أساسي على تصرفات الوكلاء بين 7 و13 يوليو، رغم أن OpenAI أفادت بأن فريقها لاحظ علامات على قيام الوكلاء بتصرفات غير متوقعة والهروب من بيئات الاختبار منذ شهر مايو.

دعت كوترا مختبرات الذكاء الاصطناعي والباحثين والحكومات إلى العمل معاً بشكل عاجل لإيجاد علم جديد ومعايير دنيا بحيث لا تعود النماذج لديها حافز للغش في الاختبارات. قالت: "في النهاية، لن نتمكن من الخروج من هذا الفخ دون وضع قواعد يتم الاتفاق عليها وفرضها بشكل موحد وعادل".