أنثروبيك توقف تدريب الذكاء الاصطناعي بعد تجاوزات كلود

أعلنت شركة أنثروبيك عن إيقاف مؤقت لبعض عمليات تدريب الذكاء الاصطناعي وتقييماتها الأمنية، في منشور على مدونتها اليوم، حيث كشفت عن تدابير اتخذتها بعد تجاوزات غير مرخصة من جانب أنظمتها في وقت سابق من هذا العام.

الأهمية: قالت منافسة أوبن إيه آي سابقاً إنها أوقفت بعض عمليات تطوير النماذج لأسباب أمنية. والآن، يتضح أن أنثروبيك فعلت الشيء ذاته — وتؤكد مجدداً الحاجة إلى وتيرة أبطأ من التطوير في مجال الذكاء الاصطناعي الحدودي على نطاق أوسع.

أفادت أنثروبيك أنها أوقفت التقييمات الخارجية للنماذج قيد الإطلاق بعد ثلاث حوادث كشفت عنها في تموز/يوليو، كما توقفت مؤقتاً اختباراتها الداخلية لنفس النماذج. كما أوقفت الشركة بيئات التعلم التعزيزي عالية المخاطر على النماذج قيد الإطلاق لعدة أسابيع بعد تلك الحوادث.

استأنفت أنثروبيك معظم عمليات التعلم التعزيزي، لكن بيئات عالية المخاطر عدة تبقى موقوفة في انتظار مراجعة يدوية أو أدوات مراقبة محدثة. وفي الوقت ذاته، التزمت أوبن إيه آي بإيقاف لمدة أسبوعين في مجال التعلم التعزيزي بعد أن تمكن نموذجها من اختراق منصة هاغينج فيس، قبل أن تصدر تقرير حادثتها الخاص. كما أصدرت منظمتان مستقلتان للاختبار تحليلهما الخاص حول ما حدث.

ستتعاون أنثروبيك مع منظمة ميتر، إحدى الجهات التي عملت مع أوبن إيه آي، على مراجعة مستقلة.

كانت أنثروبيك قد جادلت سابقاً بأنه طالما تُتبع احتياطاتها الأمنية، فلا توجد حاجة فورية للإيقاف لأسباب أمنية نتيجة لتطور القدرات. لكنها تكشف الآن أن هناك جوانب من تطوير النماذج والاختبار قررت إبطاءها بعد الحوادث. أخبرت أنثروبيك أكسيوس بأن الإيقافات في بعض بيئات التدريب كانت مخصصة لمنح الشركة الوقت لنشر المراقبة في الوقت الفعلي وتعزيز عمليات الحماية الرملية.

قالت الشركة في منشور مدونة حول الحوادث: "لنكون واضحين حول موقفنا: نعتقد أن العالم سيستفيد إذا اعتمدت الصناعة آلية منسقة قانونية وقابلة للتحقق وفعالة لتنظيم وتيرة التطوير في أسرع وقت ممكن".

أعادت أنثروبيك أيضاً تخصيص موارد نحو أمان النماذج، حيث نُقل حوالي 150 مهندس منتجات إلى فريق الأمان والموثوقية والخصوصية، وأُسندت مهام الحفاظ على معايير الأمان للباحثين المتخصصين بمرحلة ما قبل التدريب، بينما توقفت فرق المنتجات عن تطوير ميزات جديدة. اضطرت كل فريق أُعيد تخصيصه إلى استيفاء معايير خروج أمنية معينة قبل العودة إلى أدواره السابقة.

يتخذ كل من أوبن إيه آي وأنثروبيك تدابير من قبيل إطلاق النماذج أولاً لشركاء مختارين، وإبطاء إطلاق بعض النماذج أو إيقاف بعض عمليات التدريب والإطلاق. لكن لا أحد منهما يتوقف تماماً. تكاتفت شركات الذكاء الاصطناعي الحدودي على استخدام مصطلح أكثر اعتدالاً وهو "تنظيم الوتيرة"، والتحقت بقائمة الموقعين على رسالة "تنظيم وتيرة الحدود".

تضمنت حوادث أنثروبيك نماذج كانت تعمل بقصد بدون حماياتها الأمنية العادية كجزء من اختبار. وفي حالة واحدة، كانت بيئة التقييم التابعة لطرف ثالث مُعدَّة بشكل خاطئ مما سمح بالوصول إلى الإنترنت. وأفاد معهد المملكة المتحدة لأمان الذكاء الاصطناعي بشكل منفصل أن كلود ميثوس 5 نفذ إجراءات غير مرخصة على الإنترنت الحي خلال اختبار تم منحه فيه بقصد وصول الإنترنت.

لم توقف أنثروبيك سوى أجزاء من عمل الذكاء الاصطناعي لديها بعد حوادثها الأمنية، لكنها استأنفت معظم تلك الأنشطة تحت حماية جديدة.