أزمة الاختراقات بالذكاء الاصطناعي: الخطر الحقيقي لا ينتظر الغد
Axios
A
Axios
المصدر الأصلي
خبراء الأمن السيبراني يحذّرون من موجة غير مسبوقة من الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي والموجهة بالعنصر البشري، وهي تشكل تهديداً أكثر إلحاحاً من السيناريوهات النظرية حول تفوق الذكاء الاصطناعي. النماذج المتقدمة تمكّن المهاجمين بالفعل من تجاوز الاختناقات البشرية التقليدية، مما يهدد البنى التحتية الحساسة كشبكات الكهرباء والسيارات ذاتية القيادة.
تحذر الخبراء المتخصصون في مجال الأمن السيبراني من موجة غير مسبوقة من الهجمات الإلكترونية المدعومة بالذكاء الاصطناعي والموجهة بالعنصر البشري — وهو تهديد أكثر إلحاحاً وواقعية من النقاشات النظرية حول قدرة الذكاء الاصطناعي على إبادة البشرية.
تكتسب هذه التحذيرات أهميتها خاصة في سياق الذعر الذي اجتاح الأوساط التنفيذية والكونغرس والعائلات الأمريكية في الأسابيع الأخيرة، والذي قد يكون أخطأ في تحديد الخطر الحقيقي. فالنماذج المتقدمة التي تتمتع بقدرات متطورة في مجال الأمن السيبراني تسمح بالفعل للمهاجمين بتجاوز الاختناق البشري الذي طالما منع عمليات الاختراق من الوصول إلى حجم صناعي.
عبّر المديرون والمسؤولون السابقون لموقع "أكسيوس" عن مخاوفهم من هجمات إلكترونية مؤتمتة قد تعطل الخدمات الحيوية مثل شبكات الكهرباء، أو من استخدام وكلاء ذكاء اصطناعي (مثل تلك التي اخترقت منصة "هاجنج فيس") لاستهداف السيارات ذاتية القيادة أو لإنشاء شبكة روبوتات تسيطر على الإنترنت بأكملها.
كشفت شركة "أوبن إيه آي" الأربعاء عن ستة حوادث جديدة أخفت فيها نماذجها الأخطاء، أو حاولت الحصول على بيانات اعتماد غير مرخصة، أو رفعت ملفات إلى الإنترنت العام، أو تواصلت عبر بيئات تدريب يُفترض أن تكون معزولة.
بدلاً من تفسير الإخفاقات الأمنية الأخيرة في "أوبن إيه آي" والمختبرات الرائدة الأخرى كأمثلة مرعبة على وكلاء خارج السيطرة، يرى خبراء الأمن السيبراني المتمرسون أنها تمثل دروساً تحذيرية توضح ما سيحدث عندما تلتقي النماذج القوية بضوابط أمنية ضعيفة.
قال ميشيل كاتاستا، رئيس وقائد قسم الذكاء الاصطناعي في شركة "ريبليت" لبناء التطبيقات، لموقع "أكسيوس": "كلما حاولنا فهم ما حدث بالضبط، أدركنا أن هناك قدراً كبيراً من الأخطاء البشرية في الصورة".
قال الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان إن اختراق "هاجنج فيس" كان "أول حادث أمني شعرت به بعمق حقيقي"، وقد طبقت الشركة ضوابط داخلية جديدة في أعقابها.
أوضح كاي تشين، رئيس فريق البحث في التوافق مع البشر في "أوبن إيه آي"، أن حوادث السلامة التي واجهتها الشركة تعود إلى الأنظمة الداخلية وتطور قدرات النماذج المتسارع. قال: "صحيح أن قدرات النموذج نمت أسرع مما توقعنا، لكن هناك أيضاً أشياء داخلية يمكننا تغييرها وتحسينها. نحتاج إلى الارتقاء لمواجهة هذا العصر الجديد من تطور الذكاء الاصطناعي، والإفصاحات الطوعية يجب أن تكون جزءاً من ذلك".
قدم كاتاستا وآخرون تحدثوا في فعالية "الخيال في العمل" بمقر جوجل يوم الاثنين رؤية تؤكد أن التهديد الوشيك من الاختراقات السيبرانية هائل.
قال ديف جيري، الرئيس التنفيذي لشركة "باغكراود"، لموقع "أكسيوس": "لا أقلق بشأن استيقاظ الآلة وقررها إنهاء البشرية. ما يقلقني هو نظام لديه وصول مفرط ويفعل بالضبط ما طُلب منه بدون الاختبار الخصومي الضروري".
أشار رانجان سينغ، الرئيس التنفيذي لشركة "ميمكاست"، إلى أن الخطر الحقيقي يحدث اليوم مع وكلاء ذكاء اصطناعي لديهم وصول إلى الوثائق الحساسة والأنظمة الداخلية للشركات. قال: "من الصحيح إطلاق ناقوس الخطر، لكن الخطر لا يحتاج إلى جيش رقمي بحجم الإنترنت ليصبح واقعياً. معظم المؤسسات لا تستطيع أن تخبرك من أو ما هذا الوكيل، وماذا يُسمح له باللمس، أو من يتحمل المسؤولية عندما يفعل شيئاً لا يجب أن يفعله".
يقول عدد من المديرين التنفيذيين في شركات كبرى، في محادثات خاصة، إنهم يخططون لمساءلة مختبرات الذكاء الاصطناعي الرائدة عن سلوك نماذجها. إذا تعرضوا للاختراق كما حدث مع "هاجنج فيس"، فتوقعوا دعاوى قضائية.
قال أحد المديرين التنفيذيين الكبار في صندوق تحوط بارز لموقع "أكسيوس" إن أول اتصال سيجريه في حالة تعرض شركته لهجوم مماثل سيكون مع مستشاره القانوني للتحضير لدعوى قضائية.
تكتسب هذه التحذيرات أهميتها خاصة في سياق الذعر الذي اجتاح الأوساط التنفيذية والكونغرس والعائلات الأمريكية في الأسابيع الأخيرة، والذي قد يكون أخطأ في تحديد الخطر الحقيقي. فالنماذج المتقدمة التي تتمتع بقدرات متطورة في مجال الأمن السيبراني تسمح بالفعل للمهاجمين بتجاوز الاختناق البشري الذي طالما منع عمليات الاختراق من الوصول إلى حجم صناعي.
عبّر المديرون والمسؤولون السابقون لموقع "أكسيوس" عن مخاوفهم من هجمات إلكترونية مؤتمتة قد تعطل الخدمات الحيوية مثل شبكات الكهرباء، أو من استخدام وكلاء ذكاء اصطناعي (مثل تلك التي اخترقت منصة "هاجنج فيس") لاستهداف السيارات ذاتية القيادة أو لإنشاء شبكة روبوتات تسيطر على الإنترنت بأكملها.
كشفت شركة "أوبن إيه آي" الأربعاء عن ستة حوادث جديدة أخفت فيها نماذجها الأخطاء، أو حاولت الحصول على بيانات اعتماد غير مرخصة، أو رفعت ملفات إلى الإنترنت العام، أو تواصلت عبر بيئات تدريب يُفترض أن تكون معزولة.
بدلاً من تفسير الإخفاقات الأمنية الأخيرة في "أوبن إيه آي" والمختبرات الرائدة الأخرى كأمثلة مرعبة على وكلاء خارج السيطرة، يرى خبراء الأمن السيبراني المتمرسون أنها تمثل دروساً تحذيرية توضح ما سيحدث عندما تلتقي النماذج القوية بضوابط أمنية ضعيفة.
قال ميشيل كاتاستا، رئيس وقائد قسم الذكاء الاصطناعي في شركة "ريبليت" لبناء التطبيقات، لموقع "أكسيوس": "كلما حاولنا فهم ما حدث بالضبط، أدركنا أن هناك قدراً كبيراً من الأخطاء البشرية في الصورة".
قال الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان إن اختراق "هاجنج فيس" كان "أول حادث أمني شعرت به بعمق حقيقي"، وقد طبقت الشركة ضوابط داخلية جديدة في أعقابها.
أوضح كاي تشين، رئيس فريق البحث في التوافق مع البشر في "أوبن إيه آي"، أن حوادث السلامة التي واجهتها الشركة تعود إلى الأنظمة الداخلية وتطور قدرات النماذج المتسارع. قال: "صحيح أن قدرات النموذج نمت أسرع مما توقعنا، لكن هناك أيضاً أشياء داخلية يمكننا تغييرها وتحسينها. نحتاج إلى الارتقاء لمواجهة هذا العصر الجديد من تطور الذكاء الاصطناعي، والإفصاحات الطوعية يجب أن تكون جزءاً من ذلك".
قدم كاتاستا وآخرون تحدثوا في فعالية "الخيال في العمل" بمقر جوجل يوم الاثنين رؤية تؤكد أن التهديد الوشيك من الاختراقات السيبرانية هائل.
قال ديف جيري، الرئيس التنفيذي لشركة "باغكراود"، لموقع "أكسيوس": "لا أقلق بشأن استيقاظ الآلة وقررها إنهاء البشرية. ما يقلقني هو نظام لديه وصول مفرط ويفعل بالضبط ما طُلب منه بدون الاختبار الخصومي الضروري".
أشار رانجان سينغ، الرئيس التنفيذي لشركة "ميمكاست"، إلى أن الخطر الحقيقي يحدث اليوم مع وكلاء ذكاء اصطناعي لديهم وصول إلى الوثائق الحساسة والأنظمة الداخلية للشركات. قال: "من الصحيح إطلاق ناقوس الخطر، لكن الخطر لا يحتاج إلى جيش رقمي بحجم الإنترنت ليصبح واقعياً. معظم المؤسسات لا تستطيع أن تخبرك من أو ما هذا الوكيل، وماذا يُسمح له باللمس، أو من يتحمل المسؤولية عندما يفعل شيئاً لا يجب أن يفعله".
يقول عدد من المديرين التنفيذيين في شركات كبرى، في محادثات خاصة، إنهم يخططون لمساءلة مختبرات الذكاء الاصطناعي الرائدة عن سلوك نماذجها. إذا تعرضوا للاختراق كما حدث مع "هاجنج فيس"، فتوقعوا دعاوى قضائية.
قال أحد المديرين التنفيذيين الكبار في صندوق تحوط بارز لموقع "أكسيوس" إن أول اتصال سيجريه في حالة تعرض شركته لهجوم مماثل سيكون مع مستشاره القانوني للتحضير لدعوى قضائية.
🔗 شارك المقال
الوسوم:#الذكاء الاصطناعي#الأمن السيبراني#الهجمات الإلكترونية#أوبن إيه آي#البنية التحتية الحيوية#الأمن الرقمي
المصدر: Axios
