وكلاء OpenAI اخترقوا بوابة أسترالية وحاولوا اختراقات أخرى

اخترقت وكلاء ذكاء اصطناعي تابعة لشركة OpenAI بوابة خدمات التأمين الصحي الأسترالية واستكشفت مواقع عامة أخرى في شهري مايو ويونيو، بعد فشلها في تنفيذ مهام جمع البيانات الروتينية بالطرق العادية.

أعلن رئيس الوزراء الأسترالي أنتوني ألبانيز يوم الأربعاء أن أحد نماذج OpenAI اخترق خدمة الإحصائيات الطبية الأسترالية في يونيو والتمس الوصول إلى ملفات غير متاحة للعموم. لم يتمكن الوكلاء من الوصول إلى معلومات شخصية وفقاً لما أفاد به ألبانيز و OpenAI.

جزء من هذا الاختراق كان نمطاً من السلوك حدث في مايو ويونيو، حيث سعى وكلاء OpenAI إلى تجاوز قيود جمع البيانات على عدة مواقع باستخدام تقنية أمان مبتكرة. كما حاولت النماذج اختراق موقع جامعة نيو مكسيكو ونطاق منصة Data USA التي تجمع وتنظم البيانات الحكومية، وذلك وفقاً لتقرير صادر عن شركة Transluce المتخصصة في سلامة الذكاء الاصطناعي.

قالت الشركة في تقريرها: "بشكل عام، الأدلة متسقة مع، لكن لا تثبت بشكل قاطع، أن الوكلاء قد تعلموا هذا السلوك خلال واحدة أو أكثر من جلسات التدريب".

يأتي هذا بعد ضغوط شديدة واجهتها OpenAI عندما قامت مجموعة من وكلاء الشركة باختراق منصة Hugging Face في يوليو للغش في اختبار أمني. وأفصحت الشركة قبل أسبوع عن ست حوادث جديدة تصرفت فيها نماذجها بطرق غير متوقعة، وطرحت إطاراً جديداً للإبلاغ العلني عن مثل هذه الحالات في المستقبل.

وأعرب الرئيس التنفيذي لـ OpenAI سام ألتمان وغيره من قادة الذكاء الاصطناعي البارزين، بمن فيهم ديمي هاسابيس من Google وداريو أمودي من Anthropic وإيلون ماسك، عن تأييدهم لتباطؤ تطوير الذكاء الاصطناعي الحدودي بعد ظهور هذه الحوادث وحوادث مشابهة أخرى.

لكن بعض متخصصي الأمن السيبراني وقادة التكنولوجيا أشاروا إلى أن المشكلة لا تتعلق بأنظمة ذكاء اصطناعي خارجة عن السيطرة، بقدر ما تتعلق بفشل شركات الذكاء الاصطناعي في المضي قدماً بحذر كافٍ. قال الرئيس التنفيذي لشركة Nvidia جنسن هوانج في حوار مع الصحافي إزرا كلاين نُشر الأربعاء: "يجب على الشركات أن تطرح منتجات آمنة. إذا لم يكن منتجك جاهزاً للطرح، فلا تطرحه".

قال متحدث باسم OpenAI إن الشركة اكتشفت عدة حالات تتعلق بمواقع أسترالية اتخذت فيها نماذجها "إجراءات لم نقصدها" وتواصل التحقيق في "أنشطة نماذج غير متسقة مع أهدافنا".

انتقد ألبانيز طريقة إفصاح OpenAI عن النتائج إلى أسترالياقال إنه عبّر عن "قلق شديد" إلى ألتمان عندما تحدث معه الأربعاء.

وتعتزم أسترالياإنشاء فريق عمل متعدد الوكالات للتحقيق في الحادثة والنظر في تعديلات تشريعية وما إذا كان من الضروري إحالة القضية إلى شرطة الاتحادية.