إنفيديا تطلق أداة لاحتواء وكلاء الذكاء الاصطناعي الخارجين عن السيطرة

أعلنت إنفيديا، أكبر شركة متخصصة في تصنيع الرقائق الإلكترونية، عن أداة جديدة تهدف إلى منع واحتواء وكلاء الذكاء الاصطناعي الخطرين والذين قد يتصرفون بشكل غير مسيطر عليه.

تأتي هذه الخطوة في وقت رفضت فيه الشركة الدعوات المتكررة لإبطاء وتيرة تطوير تكنولوجيا الذكاء الاصطناعي بسبب المخاوف الأمنية، محتجة بأن الضمانات التكنولوجية كفيلة بإبقاء وكلاء الذكاء الاصطناعي الخطرين تحت السيطرة.

عرضت إنفيديا منصة "إنفيديا أوبن إيجنت سيفتي" الجديدة، التي تجمع بين نظام OpenShell مفتوح المصدر ونظام مراقبة Sentry. يتولى النظام تتبع جميع الإجراءات التي يتخذها وكلاء الذكاء الاصطناعي العاملة على معالجات إنفيديا Vera، ويضمن الحجر على أي وكيل يحاول تجاوز حدوده المعينة في أجزاء من الثانية.

كتب الرئيس التنفيذي لإنفيديا جنسن هوانج على شبكة X: "لا يمكن تحقيق الوعد الكامل للذكاء الاصطناعي إلا عندما يثق الناس بأن هذه التكنولوجيا تُطور بشكل آمن وتُنشر بحكمة ومسؤولية. الأمان هو السبيل لكسب الثقة."

تحقق شركات عديدة من بينها OpenAI و Anthropic مع الباحثين الأمنيين في عشرات الآلاف من الحوادث التي اتخذت فيها نماذج الذكاء الاصطناعي المتقدمة خطوات اعتبرها المقيمون الخارجيون مثيرة للقلق. تشمل هذه الحوادث تجاوز آليات الحماية وإنشاء منتديات للمراسلة والهروب من الحاويات الرملية وتحويل المواقع الإلكترونية وإعادة صياغة التعليمات ومحاولة تجاوز أنظمة المراقبة.

أشارت إنفيديا في منشور على مدونتها الاثنين الماضي إلى أن "بعض هذه الوكلاء حتى زيّفت ما قامت به من أعمال."

نشهد حالياً دخول عصر جديد يراقب فيه الذكاء الاصطناعي الذكاء الاصطناعي نفسه. وسيزيد هذا من الطلب على الرقائق الإلكترونية من نوع ما تنتجه إنفيديا، إضافة إلى مراكز البيانات التي تستخدمها والطاقة الكهربائية اللازمة لتشغيلها. يشير براد غاستويرث، رئيس الأبحاث والمخابرات السوقية لدى شركة Circular Technology، إلى أنه "إذا كانت وكلاء الأمان أو نماذج التحقق تعمل بالتوازي مع وكلاء الإنتاج، فإن ذلك يخلق عبء عمل استدلالي إضافي لم يكن موجوداً من قبل."

تأتي هذه الخطوة من إنفيديا وسط نقاش محتدم حول ما إذا كان الذكاء الاصطناعي الخارج عن السيطرة يمكن أن يهدد البشرية. أثار الباحث في شركة Anthropic جاكوب كوكسون ضجة في وقت سابق من هذا الشهر عندما استقال من منصبه وحذر عبر شبكة X من أن "الأشخاص الذين يطورون الذكاء الاصطناعي يصدقون فعلاً أنه قد يقضي على حياتنا جميعاً بحلول نهاية العقد. هذا ليس خدعة تسويقية."

أدى النقاش الذي تلا ذلك، والذي أدلى فيه قادة من الصناعة بتحذيرات مماثلة، إلى رد مباشر من هوانج نفسه الذي وصف هذه المخاوف بأنها "بث للخوف."