الذكاء الاصطناعي الحل الأمثل لأزمة أمان الذكاء الاصطناعي

يؤكد قادة الصناعة والباحثون أن الحل الأمثل لأزمة الأمان الناشئة في مجال الذكاء الاصطناعي يكمن في المزيد من تطبيقات الذكاء الاصطناعي ذاته.

وتكتسب هذه الرؤية أهمية بعد أن كشفت وكالة "أكسيوس" عن تحقيقات جارية في عشرات الآلاف من حوادث أمان إشكالية في مجال الذكاء الاصطناعي، بدلاً من العشرات التي كانت معروضة للعلن سابقاً، ما أثار تساؤلات حول قدرة قادة الذكاء الاصطناعي على السيطرة على تكنولوجياتهم.

سعى الرئيس التنفيذي لشركة "إنفيديا" جينسن هوانج إلى تهدئة المخاوف المتصاعدة لدى الحكومات والأسواق والصناعات، معلناً عن منصة أمان مفتوحة المصدر لمراقبة وكلاء الذكاء الاصطناعي وعزلهم محتملاً. وقال في مقابلة على قناة "سي إن بي سي" يوم الإثنين: "علينا جميعاً أن نأمل أن تكون هذه مشكلة هندسية. فإذا لم تكن كذلك، فلا حل لها". وأضاف أن استمرار الشركات في تطوير تقنيات متقدمة يعكس اعتقادها أنها قادرة على حل هذه المشكلة.

التحدي الأساسي الذي يواجه البشرية في مراقبة الذكاء الاصطناعي القوي يتطلب تخيل جميع الطرق التي قد تتصرف بها النماذج بطرق غير متوقعة لتحقيق أهدافها المحددة. شبّه أحد المديرين التنفيذيين البارزين في مجال الذكاء الاصطناعي هذه العملية بمحاولة منع مراهق من الهروب ليلاً. قد يضع الوالد قواعد مثل عدم الخروج من الباب الأمامي أو الخلفي، أو عدم فتح المرآب، أو عدم الخروج من أي نوافذ. لكن ماذا إذا استطاع المراهق بناء جرافة واستخدامها لاختراق جدار من الطوب والهروب؟ هل كان أي والد سيفكر في منعه من فعل ذلك؟

وحسب المديرين التنفيذيين والباحثين والمتخصصين في الأمن السيبراني، فإن الحل يكمن في استخدام الذكاء الاصطناعي لإنشاء هذه الحواجز الواقية، والتحقيق من الوكلاء المارقة والقضاء عليهم، وتأمين الأنظمة، وبناء بيئات تدريب أكثر أماناً.

اكتسبت استراتيجية "الذكاء الاصطناعي ضد الذكاء الاصطناعي" زخماً في مجال الأمن السيبراني، حيث يفوق المتسللون والوكلاء المارقون قدرات الاستجابة البشرية وحدها. تتجه الشركات بشكل متزايد إلى الذكاء الاصطناعي لأتمتة الكشف عن التهديدات والاختبارات الأمنية والتصحيحات السريعة. وتسهم منصة "إنفيديا" هذا النهج في الأنظمة التي تشغل وكلاء متخصصين.

قدمت شركات من بينها "مايكروسوفت" و"سيسكو" و"غوغل" و"كراودسترايك" نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني. وأطلقت "بالو ألتو نتوركس" خدمة تستخدم نماذج متقدمة وموجودة بحرية لاكتشاف الثغرات الأمنية والتوصية بالإصلاحات.

ظهر هذا الديناميك بوضوح عندما هربت وكلاء "أوبن إيه آي" من بيئة الاختبار واخترقت منصة "هاغينغ فيس" المفتوحة المصدر. استخدمت المنصة بعد ذلك نموذج ذكاء اصطناعي صيني لتقييم الهجوم بعد أن واجهت عراقيل عند محاولة استخدام نماذج أمريكية. منعت "هاغينغ فيس" من استخدام "ميثوس" من "أنثروبيك"، الذي صُمم للحد من استجابته لطلبات أمنية معينة لمنع الاستخدام الضار. بعبارة أخرى، قامت منظومة ذكاء اصطناعي بالتحقيق في أخرى.

خلقت حوادث الأمان الأخيرة أزمة ثقة في أمان الذكاء الاصطناعي. سعت النماذج إلى تجاوز الحواجز الواقية والهروب من بيئات العزل واختراق المواقع الإلكترونية وتحفيز ذاتها ومحاولة التهرب من أنظمة المراقبة. تعمل الشركات أيضاً على استخلاص الدروس من هذه الإخفاقات. بالإضافة إلى منصة أمان الوكلاء الجديدة التي ساهمت فيها أكثر من 100 شركة مع "إنفيديا"، اقترح الفاعلون في القطاع إطاراً معياراً لتسجيل الحوادث والاحتفاظ بسجلاتها. والفكرة توفير ما يشبه "صندوق الأسود" للمحققين في مجال وكلاء الذكاء الاصطناعي.

لكن المزيد من أدوات الدفاع بالذكاء الاصطناعي لا يعني أن بوسع كل شركة تبنيها بسرعة. يعاني عدد من فرق الأمن بالفعل من الإرهاق بسبب تغير مشهد التهديدات والخيارات المعقدة حول ما يجب شراؤه.

سيكون الذكاء الاصطناعي ضرورياً لمراقبة الذكاء الاصطناعي، لكن ذلك لا يعني أن هذا سيحدث بشكل تلقائي. يتعين على البشر تحديد الأولويات والأهداف بنجاح للحفاظ على أمان النماذج القوية.