وكالات الذكاء الاصطناعي القادمة نحو أن تكون ضحايا القراصنة

في عالم يشهد تصاعداً للهجمات الإلكترونية المدعومة بالذكاء الاصطناعي، لن تكون ضحايا الاختراقات البشر وحدهم، بل ستشمل وكالات الذكاء الاصطناعي نفسها، بحسب رئيس شركة بغكراود ديف جيري الذي أدلى بهذا التنبؤ خلال حديث مع أكسيوس.

ويأتي هذا التنبؤ بأهمية قصوى، إذ أن الدفاعات الإلكترونية الحالية صُممت بشكل أساسي للدفاع عن البشر وتوقع الهجمات ضدهم. لذا، على الشركات الآن أن تبدأ بالنظر إلى وكالات الذكاء الاصطناعي التي تعمل داخل أنظمتها باعتبارها تشكل تهديداً محتملاً وفي الوقت ذاته قد تكون أهدافاً للمهاجمين.

أطلق جيري هذا التنبؤ خلال مشاركته في مؤتمر بلاك هات للأمن السيبراني الشهر الماضي، وذلك بعد إعلان أوبن إيه آي عن اختراق نظام وكالاتها لمنصة هاغينغ فيس، وقبل أن تطرح المختبرات التقنية دراستها التفصيلية حول كيفية تنفيذ وكالاتها لتلك الهجمة.

قال جيري لأكسيوس: "سنرى وكالات الذكاء الاصطناعي تتعرض للاختراق بدلاً من الأشخاص. لن يقتصر الأمر على اختراق الأفراد بل ستكون الوكالات نفسها ضحايا".

تأتي هذه التوقعات وسط استمرار مختبرات الذكاء الاصطناعي في التعامل مع التداعيات طويلة الأمد لقيام وكالاتها باتخاذ إجراءات غير مصرح بها خلال اختبارات الأمان قبل نشرها. لكن العديد من تلك الحالات تتعلق بوكالات ذكاء اصطناعي تتصرف بطرق غير مقصودة، وليس باختراقها لبعضها البعض كوسيلة للتسلل إلى المؤسسات.

يتوقع جيري أن تركز معظم الهجمات على وكالات الذكاء الاصطناعي داخل بيئات المؤسسات، وليس على الوكالات المملوكة للأفراد والعاملة لديهم، وذلك لأن الجزء الأكبر من وكالات الذكاء الاصطناعي تُستخدم حالياً في المجال الموجه للمؤسسات.

قال جيري: "سيصبح هذا ناقل الهجوم الأول الذي سنشهده. لتسهيل حياتنا كبشر، زودنا هذه الوكالات بمفاتيح الكنز الثمين إلى كل شيء لدينا". وأشار إلى أن العديد من الأدوات التي اعتمدت عليها الشركات طويلاً أصبح لديها الآن وكالات ذكاء اصطناعي خاصة بها، مما يزيد صعوبة تتبع ما يوجد على شبكات الشركة.

أضاف: "لديك كل هذه الأدوات المعتمدة من المؤسسة والتي فُعّل فيها الذكاء الاصطناعي بطريقة سحرية. والآن، هناك متراكمات من الديون التقنية المتعلقة بأشياء وافقت عليها في السابق لكن لم أعد أوافق عليها الآن".

كانت صناعة الأمن السيبراني تحاول زيادة الوعي بتأمين هويات وكالات الذكاء الاصطناعي لأكثر من عام، محذرة من أن هذه الوكالات تمثل أحدث شكل من أشكال تهديدات المهاجمين من الداخل. يمكن استغلال هذه الوكالات الداخلية لمنح المتسللين وصولاً غير محدود إلى الأنظمة الحساسة، وسرقة البيانات والتسلل إلى أقسام أخرى في المؤسسة. قال جيري: "برأيي، هذا أمر حتمي".

حتى قبل أن تبدأ وكالات الذكاء الاصطناعي في الانتشار على نطاق واسع في شبكات المؤسسات، كانت الضوابط الضعيفة على الهويات أحد أبرز ناقلات الهجمات الخبيثة. على سبيل المثال، استحوذت الهجمات المبنية على الهوية على 60% من جميع حالات استجابة الحوادث لدى سيسكو في عام 2024.

مع تقدم نماذج الذكاء الاصطناعي الحدودية، أصبحت رؤية تفاصيل الإجراءات التي تتخذها وكالات الذكاء الاصطناعي وسلسلة تفكيرها أكثر غموضاً، مما يجعل من الصعب على فرق الأمن نسب الهجمات إلى مصادرها بدقة.

قال جيري: "إنها هجمات جديدة. وهي تتحرك بسرعة أكبر. وتتحرك بنطاق أوسع". لكن في النهاية، كل هذا يعود إلى الممارسات الأمنية السليمة وفهم ما يوجد بالفعل وكيفية وضع ضوابط حوله.