وكيل ذكاء اصطناعي من OpenAI اخترق موقع حكومي أسترالي

كشف رئيس الوزراء الأسترالي أنثوني ألبانيز أن برنامج ذكاء اصطناعي مستقل من OpenAI اخترق موقع وزارة الصحة الحكومية الأسترالية في حزيران الماضي في ما وصفه بأنه انتهاك «غير مقبول". وقال ألبانيز للصحافيين في نيويورك الأربعاء إن الوكيل الذكي الخاص بالشركة تمكن من الوصول إلى ملفات عامة وغير عامة تابعة لخدمة إحصائيات الصحة.

ولم تنبّه OpenAI الحكومة الأسترالية إلى الحادثة إلا في أيلول، عندما أرسلت بريداً إلكترونياً يصف الحادثة إلى عنوان بريد عام. وقال ألبانيز: "تحدثت اليوم مع الرئيس التنفيذي لـOpenAI سام ألتمان لكي أعبّر عن القلق الشديد الذي تشعر به أسترالياً بشأن هذا الحادث". وأضاف: "كما أعربت عن خيبة أملي لأن الشركة استغرقت وقتاً طويلاً جداً قبل إبلاغ الحكومة بما حدث. لم تأتِ أي إخطارات حتى 10 أيلول، والإخطار نفسه كان مجرد بريد إلكتروني أُرسل إلى صندوق بريد عام".

تتصاعد القلاقل العالمية حول قوة أدوات الذكاء الاصطناعي المتقدمة في أعقاب سلسلة من الحوادث الأمنية التي تورطت فيها نماذج من OpenAI والشركة المنافسة Anthropic. وأوضح ألبانيز أن الأداة التابعة لـOpenAI كانت تجري أبحاثاً صحية عندما حاولت الوصول إلى مجموعة من البيانات المقيدة. وقال: "عندما تمّ حجبها، سعت إلى إيجاد طرق للالتفاف حول الحجب. أعتقد أن OpenAI تدرك أنها بحاجة إلى وضع بروتوكولات أفضل". وتابع: "هذا مشروع بحثي تجاوز الحدود التي كان يجب عليه عدم تجاوزها".

أوضح رئيس الوزراء أنه لا توجد دلائل متاحة على اختراق أوسع نطاقاً لشبكة الخدمات الحكومية. وقال: "لا يُعتقد أنه تمّ الوصول إلى أي معلومات شخصية في هذه المرحلة، لكن التحقيقات جارية". وأضاف: "مع ذلك، فإن هذا الوضع غير مقبول بكل تأكيد".

وأشار إلى أن المديرية الأسترالية للإشارات تساعد في إجراء "تحقيق جنائي" للحصول على معلومات إضافية، بما في ذلك الأنظمة الحكومية الأخرى التي تأثرت بالحادثة.

من جانبها، قالت OpenAI إن مراجعة حديثة كشفت أن عدداً من مواقع الحكومة الأسترالية قد تكون تأثرت. وأوضحت الشركة: "خلال هذه المراجعة، حددنا نشاطاً يتعلق بعدة مواقع وخدمات حكومية أسترالية، حيث حاولت نماذجنا البحث عن إجابات وإحصائيات متاحة عن أسئلة تتعلق بأسترالياً خلال تقييم داخلي. في خضم ذلك، اتخذت نماذجنا إجراءات لم نقصدها".

أثناء ذلك، تناول ألتمان وعدد من الرؤساء التنفيذيين في قطاع التكنولوجيا الأربعاء اجتماعاً خاصاً بمجلس الأمن التابع للأمم المتحدة حول مخاطر الذكاء الاصطناعي.

وقّعت أكثر من 100 منظمة حول العالم، بما فيها OpenAI وAnthropic، على رسالة مفتوحة تدعو إلى جهود عالمية لـ"تعزيز الدفاعات السيبرانية" ضد التهديدات السيبرانية التي يسلطها الذكاء الاصطناعي.

وكان نموذجا ذكاء اصطناعي من OpenAI قد هربا من بيئة اختبار مغلقة في وقت سابق من هذا العام واخترقا الأنظمة الداخلية لمنصة Hugging Face المختصة بالذكاء الاصطناعي.

واكتشفت Anthropic مؤخراً أن نماذجها حصلت على وصول غير مصرح به إلى ثلاث منظمات لم تُفصح عن أسمائها أثناء اختبارات كان من المفترض أن تبقيها بعيدة عن الأنظمة "الحقيقية".

وقالت Google الأسبوع الماضي إن نموذج الذكاء الاصطناعي الاستهلاكي Gemini اخترق أنظمة متعددة عن طريق تخمين بيانات المستخدم.