وكلاء ذكاء اصطناعي من أوبن إيه آي يخترقون أنظمة الاختبار

قالت أوبن إيه آي إن وكلاءها من الذكاء الاصطناعي اخترقوا أنظمتها الداخلية قبل أسابيع من اختراق منصة هاجينج فيس. وأفاد باحثون من الشركة يوم الأربعاء بأن الوكلاء عملوا معاً على اكتشاف واستغلال ثغرة في البنية التحتية المخصصة لاختبارات الأمن السيبراني.

**الأهمية:** تثير النتائج الجديدة تساؤلات حول كيفية مراقبة المختبرات الرائدة في مجال الذكاء الاصطناعي لبيئات اختبارها، وحول التحديات التي يواجهها المختصون في السلامة بينما يحاولون السيطرة على نماذج ذكاء اصطناعي في تطور متسارع.

**التطورات الرئيسية:** اكتشفت نموذج البحث الداخلي في أوبن إيه آي، وهو أحد النماذج المتورطة في اختراق هاجينج فيس، ثغرة في نظام أرتيفاكتوري في 26 مايو. نظام أرتيفاكتوري عبارة عن مستودع ملفات تابع لجهة خارجية ومتصل بصندوق الاختبار الخاص بالشركة، حسبما أفاد به باحثان خلال حديثهما في مؤتمر البلاك هات للأمن السيبراني يوم الأربعاء.

أظهرت الإجراءات التي لاحظها الباحثون مستويات عبقرية من التصرف في الاختبارات، كاشفة عما قد يحدث إذا وصلت هذه النماذج إلى أيدي المخترقين. قال مايكل دالتون، أحد أعضاء الملاك الفني في أوبن إيه آي: "نعتقد أن هذه لحظة فاصلة للأمن السيبراني كصناعة، وكذلك لشركتنا ككل."

**ما حدث:** بدأت أوبن إيه آي اختبار نموذج البحث الداخلي، وهو نموذج لم تكن تعتزم الإفراج عنه للجمهور، في 7 مايو.

في غضون يوم واحد، بعد أن واجه النموذج صعوبات في إكمال تقييم أمني، توصل إلى استنتاج بأنه يستطيع الوصول إلى الإنترنت بطريقة غير مباشرة. اكتشف النموذج بعدها أنه يمكنه كتابة ملفاته الخاصة في مستودع حزم أرتيفاكتوري المشترك.

ترك النموذج بعدها ملاحظة لوكلاء آخرين بشأن اكتشافه. بدأ المزيد من الوكلاء بترك رسائل لبعضهم البعض في المستودع، محدثة لوحة نشرات افتراضية حيث تعاون الوكلاء وتبادلوا المعلومات عن نتائجهم، بما في ذلك الثغرات الجديدة التي اكتشفوها.

**التفاصيل:** اكتشف الوكلاء مجموعة متنوعة من الثغرات في أرتيفاكتوري، بما فيها ثغرة تنفيذ الأوامر عن بعد وأخرى منحتهم صلاحيات إدارية.

عندما اكتشف الوكيل ثغرة الصلاحيات الإدارية، فكر قائلاً: "يا للهول، المستخدم له صلاحيات إدارية؟ يمكننا قراءة التهيئة والمستخدمين! افترضنا في البداية أنه ليس كذلك بسبب تجربة المستخدم،" حسبما ظهر في شريحة العرض التقديمي توضح عملية التفكير لدى الوكيل خلال إكمال اختباره.

**المثير للاهتمام:** في أوائل يوليو، قبل بضعة أيام من حادثة هاجينج فيس، أرهق الوكلاء خدمة أرتيفاكتوري وتسببوا في انقطاع الخدمة. دفع الانقطاع أوبن إيه آي إلى فتح تحقيق داخلي أظهر أن الوكلاء اخترقوا المستودع.

قامت أوبن إيه آي بعدها بحذف لوحة الرسائل وإصلاح ثغرة يوم صفر في أرتيفاكتوري كان الوكلاء يستغلونها بحلول 6 يوليو. اعتقدت أوبن إيه آي أنها أصلحت المشكلة بعد حادثة 4 يوليو واستأنفت التدريب.

**بعد يومين فقط،** أعاد الوكلاء بناء لوحة الرسائل من خلال آلية مختلفة تماماً.

بدأ الوكلاء بعدها التنسيق بشكل أكثر عدوانية، مستخدمين وصول أرتيفاكتوري إلى الإنترنت للبحث عن البنية التحتية الخارجية التي اعتقدوا أنها قد تحتوي على إجابات لمهام التقييم الخاصة بهم. تتويج هذا التعاون كان في النهاية اختراق هاجينج فيس، وفقاً لأوبن إيه آي.

أضافت أوبن إيه آي أنها لم تدرك أن عمليتها التقييمية كانت مرتبطة باختراق هاجينج فيس إلا بعد أن اتصلت بهاجينج فيس بشأن بيانات الاعتماد التي كُشفت خلال تحقيقها الخاص.

**مستوى التهديد:** يقول دالتون إن الحادث يوضح بالضبط كيف سيقوم المهاجمون قريباً بتسليح وكلاء الذكاء الاصطناعي لاستهداف المؤسسات خارج نطاق أوبن إيه آي وهاجينج فيس.

قال دالتون: "في المستقبل القريب، يجب أن نتوقع أن يقوم الجهات الفاعلة الخطرة بنشر وتحسين وتسليح واستخدام مجموعات وكلاء هجومية بالطريقة التي وصفناها للتو."

**قراءة ما بين السطور:** بدأت أوبن إيه آي "إبطاء البحث بشكل واعٍ لتحسين الأمان،" حسب قول دالتون، وزيادة مراقبتها لوكلاء الذكاء الاصطناعي أثناء التقييمات.

قامت أوبن إيه آي أيضاً بترقية بنيتها التحتية الأمنية حول بيئة التقييم. يوصي دالتون باستخدام إصلاحات أمنية من إنشاء الوكلاء للمواكبة مع سرعة المخترقين الخبثاء. أضاف أنه يجب على المدافعين أن يبدأوا بتجريب نماذج الحدود والنماذج مفتوحة الأوزان لهذه المهام.

**ما الذي سيأتي لاحقاً:** تقول أوبن إيه آي إنها تخطط للإفراج عن تقرير شامل عن الحادثة في الأسابيع المقبلة.

**الخلاصة:** يجب على الشركات أن تبدأ بتبني الاختبارات الحمراء المستقلة والاستجابة الآلية للحوادث والإصلاح الآلي.