أوبن إيه آي تتراجع أولاً في أزمة السلامة الذكية

أعلنت أوبن إيه آي يوم الثلاثاء عن إيقاف مؤقت لبعض مراحل تطوير نماذجها بسبب مخاوف متعلقة بالسلامة والأمان، وذلك بعد أيام من قيام منافستها أنثروبيك بمضاعفة التأكيد على أن إجراءاتها الأمنية صلبة بما يكفي ولا تحتاج إلى تبطيء العمل.

يحمل هذا التطور أهمية كبرى، إذ يعكس تباعداً علنياً بين المختبرين الرائدين في مجال الذكاء الاصطناعي بشأن كيفية إدارة مخاطر السلامة، وهو ما قد يضعهما على جداول زمنية مختلفة لإطلاق النماذج الجديدة، خاصة وأن كليهما يستعد للطروحات العامة الأولية المتوقعة.

قدمت أوبن إيه آي إجراءات أمنية جديدة بعد اكتشافها أن نموذجها القادم "أسترا" يشكل مخاطر محتملة حرجة تتعلق بالأمن السيبراني. وقال الرئيس التنفيذي سام ألتمان عبر منصة إكس: "قلنا دائماً أننا سنتخذ إجراءات إذا شعرنا أن قدرات النموذج تفوق وتيرة السلامة والمحاذاة"، مشيراً إلى أن نموذج أسترا أظهر علامات عدم محاذاة، أي عندما يتصرف الذكاء الاصطناعي بما يتعارض مع أهدافه المقصودة.

في المقابل، أعلنت أنثروبيك يوم الجمعة أنه إذا تم الالتزام بالضمانات الواردة في تقريرها الذي يبلغ 186 صفحة، فإن إيقاف نماذجها الأكثر قدرة لن يكون ضرورياً.

في سياق تحليلي أعمق، يعكس الموقفان انعكاساً لافتاً للأدوار، حيث كانت أنثروبيك تُعرف تقليدياً بكونها أكثر حذراً واهتماماً بالسلامة من أوبن إيه آي. وقد شاركت أوبن إيه آي أخبار إيقافها لإطلاق نموذج أسترا مع موقع أكسيوس، مستشهدة بأنها لم تستطع استبعاد احتمالية وصول النموذج إلى حد "حرج" في إطار عملها الخاص بالاستعداد.

أضافت الشركة الثلاثاء أنها بصدد إعادة كتابة وثيقتها الخاصة بهذا الإطار، معظمها يعود إلى عام 2023، حين كانت العديد من المخاوف المثارة تندرج تحت خانة السيناريوهات النظرية وليس الحقائق الراهنة. وأفاد ألتمان لكاتب نشرة "سورسز" أليكس هيث بأن النماذج غير المُطلقة للشركة تُظهر "درجات متفاوتة من عدم المحاذاة".

مع ذلك، تؤكد أنثروبيك أن التزامها بالتوسع الآمن في مجال الذكاء الاصطناعي لم يتغير. وتقول إن حواجزها الأمنية تمنع السلوكيات غير المحاذاة التي قد تستوجب نوع الإيقاف الذي أعلنت عنه أوبن إيه آي.

تتخذ كل من أوبن إيه آي وأنثروبيك خطوات عملية من قبيل إطلاق النماذج أولاً لشركاء مختارين، أو تبطيء إطلاق بعض النماذج، أو في حالة أوبن إيه آي، إيقاف بعض أعمالها. غير أن أياً منهما لم يتوقف كلياً عن عمله. واتفقت جميع شركات الذكاء الاصطناعي الحدودية على استخدام مصطلح أكثر تحفظاً وهو "تنظيم الوتيرة"، وانضمت معاً لتوقيع رسالة حول تنظيم وتيرة الحدود.

يأتي هذا في أعقاب سلسلة من حوادث سيبرانية أبلغت عنها جميع مختبرات الذكاء الاصطناعي الرئيسية مؤخراً. عبّر الباحثون في صناعة الذكاء الاصطناعي عن قلقهم إزاء سلامة أنظمة الذكاء الاصطناعي في أعقاب هذه الحوادث. وقال جوزيف بيرلا، مؤسس شركة توجيه النماذج تراستد روتر، لموقع أكسيوس إن الأمر "يشبه قصص الخيال العلمي".

كشفت أوبن إيه آي في يوليو عن أن نماذجها تمكنت من الهروب من بيئتها المعزولة واختراق أجزاء من منصة هاجنج فيس أثناء اختبارها، لكن نموذج أسترا لم يكن متورطاً في الحادث. من جانبها، حصلت نماذج أنثروبيك على وصول غير مصرح به أثناء الاختبار، لكنها لم تهرب من البيئة المعزولة تقنياً. بل تم تزويد النماذج عن طريق الخطأ بإمكانية الوصول للإنترنت لم تكن مفترض أن تحصل عليها في هذه المرحلة من الاختبار.

على الصعيد الأوسع، يتعين على كلا الشركتين التنقل عبر عملية مراجعة طوعية من الحكومة الفيدرالية، لم تُفصح تفاصيلها للعامة بعد.

من الناحية التفصيلية، قال أندرو فريدمان، المؤسس والرئيس التنفيذي لمؤسسة فاثوم غير الربحية المتخصصة في سلامة الذكاء الاصطناعي، إن أوبن إيه آي تبذل جهداً شرعياً لتجنب إطلاق نماذج غير محاذاة، محتجاً بأنه بدون هذا الإيقاف المؤقت، سيترك عدد أكبر من موظفيها الشركة. وقد شهدت الشركة بالفعل رحيلاً كبيراً للكفاءات، بينهم رئيسة الأخلاقيات كلوي باكلار التي تركت منصبها بعد أقل من سنة، ورئيس أنظمة السلامة جوهانس هايديكه، والمستقبليون الرئيسيون وسابقاً رئيس محاذاة المهمة جوشوا أتشيام، وسانديني أجاروال التي كانت تقود فرق سلامة الذكاء الاصطناعي في الشركة، وكلهم غادروا مؤخراً.

قالت هيلين تونر، عضو مجلس الإدارة السابق في أوبن إيه آي، إن إيقاف الشركة المؤقت علامة إيجابية وقد يكون بمثابة دليل على كيفية التعامل مع المخاوف الأمنية مستقبلاً. واحتجت تونر عبر منصة إكس بأن "تنظيم وتيرة الحدود" لا يتعلق بتأخير ثابت، بل بإعطاء المختبرات "وقتاً كافياً" لتحقيق معايير سلامة معقولة بالخيار أو لأنهم ملزمون بذلك.

حتى إذا كان الإيقاف المؤقت علامة إيجابية، لا يوجد ضمان بأن أوبن إيه آي أو أنثروبيك ستمنح نفسيهما وقتاً كافياً قبل المتابعة مع تطوير وإطلاق النماذج. قال فريدمان لموقع أكسيوس: "كم سيكون طول هذه الجهود وكم ستكون قوية سيكون مسألة تتعلق بضغوط السوق وكم يصعب التحقق من المحاذاة داخلياً".