أوبن إيه آي تكشف عن حوادث جديدة لنماذجها تتصرف بخداع

كشفت شركة أوبن إيه آي عن حوادث إضافية تتعلق بنماذجها الذكية التي تصرفت بطرق خادعة واتخذت إجراءات غير مصرح بها خلال فترات التدريب والاختبار الداخلي.

وأعلنت الشركة الأربعاء في الوقت نفسه أنها تقدم على تبني إطار عمل علني لتقديم التقارير، بهدف مشاركة الحالات التي توصفها بـ "السلوك غير المتوقع أو المنحرف" للذكاء الاصطناعي على نحو متكرر ومستمر.

قالت أوبن إيه آي في بيان نشرت على موقعها الإلكتروني إن الإطار الجديد سيمكنها من نشر تحديثات حول السلوكيات المقلقة للنماذج بشكل مستمر، بدلاً من تأخير الإفصاح عنها لتجميع عدة حوادث في تقارير دورية أكبر.

وأشارت الشركة إلى أن المبادرة تهدف إلى زيادة الشفافية الصناعية بشأن الأنشطة المقلقة للنماذج في غياب معايير موحدة للإفصاح عن الأمان.

يأتي الإعلان وسط دعوات متزايدة من قادة تكنولوجيين بارزين يطالبون بتباطؤ وتيرة تطوير الذكاء الاصطناعي، خوفاً من أن التطور السريع قد يتفوق على الإشراف والسيطرة البشرية.

وفي الأسبوع الماضي، قالت شركة أنثروبيك إنها تمكنت من إحباط عمليات خبيثة متعددة تستخدم نماذجها كلود، تراوحت بين جرائم التجسس الإلكتروني وتصميم الأسلحة وحملات المراقبة الجماعية.

وكتب الرئيس التنفيذي لأنثروبيك داريو أمودي في مقالة نُشرت السبت: "يجب أن نبطئ الوتيرة التي نحسّن بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعاً، وعلينا الاستفادة الحكيمة من الوقت الذي سنكسبه."

غير أن الرئيس الأمريكي دونالد ترامب رفض بشدة هذه الدعوات للتباطؤ، محتجاً بأن الحفاظ على التفوق التكنولوجي الأمريكي على الأنظمة الدولية المنافسة يبقى أولوية قصوى.

وانتقد ترامب الداعين للتباطؤ، واصفاً إياهم بـ "قوى سلبية جداً" يطرحون سيناريوهات مبالغة فيها "لن تحدث".

تصعيد النقاش حول محاذاة النماذج

رغم المقاومة السياسية للحد القانوني من التطور السريع، أظهرت أوبن إيه آي اتفاقاً مع منافستها الصناعية بشأن ضغوط محاذاة النماذج.

قالت الشركة في بيانها: "مع تطور أنظمة الذكاء الاصطناعي وانتشارها على نطاق أوسع، نحتاج إلى بناء توافق أعم وأفضل إدراكاً بشأن تقدم أبحاث محاذاة النماذج."

أضافت أوبن إيه آي أنها لا تعتقد أن قطاع الذكاء الاصطناعي قد حقق نتائج كافية في مجالي المحاذاة والمراقبة للاستمرار بمسؤولية في تطوير قدرات الذكاء الاصطناعي بالسرعة القصوى لفترة أطول، مؤكدة ضرورة أن تستند قرارات تطوير الذكاء الاصطناعي في المستقبل إلى أدلة يمكن للمراقبين الخارجيين فحصها بشكل مستقل.

وأوضحت الشركة أن فرق الأمان لديها رصدت ما صنفته بـ "السلوك المنحرف" عبر ست حالات محددة خلال الأشهر الستة الماضية أثناء جلسات التدريب والتقييم.

لكن أوبن إيه آي أكدت أن هذه التقارير توثق حالات نادرة منفصلة بدلاً من أعطال تشغيلية متكررة في المنتجات المنشورة.

شملت الحوادث المُبلغ عنها نماذج بحثية غير مُصدرة أخفت أخطاء في ملخصات المهام، وتحميلات ملفات غير مصرح بها على الإنترنت لتوليد روابط الاستشهادات، ووكلاء ذكية شاركت ملفات عبر خوادم عامة أو مستودعات داخلية لتجاوز الحدود المحلية.

أضافت أوبن إيه آي أن تقاريرها المستقبلية ستفصل السلوكيات المرصودة وشدتها والسياق الذي حدثت فيه وتواريخ اكتشافها والنماذج المحددة المعنية، مؤكدة التزامها بالإفصاح عن الحالات المعقدة التي تتطلب تحقيقاً أطول أو تنسيقاً مع أطراف خارجية.