واشنطن تتخلى عن مسؤوليتها في تنظيم الذكاء الاصطناعي
The Guardian US
T
The Guardian US
المصدر الأصلي
يرفض الرئيس ترامب والقيادة الجمهورية اتخاذ إجراءات تشريعية لتنظيم تطور الذكاء الاصطناعي رغم تحذيرات متزايدة من قادة الشركات والباحثين. الخبراء يحذرون من أن الاعتماد على التنظيم الذاتي للشركات سيؤدي إلى كارثة، كما حدث مع أزمة المناخ.
يندر أن يتفق سام ألتمان وإيلون ماسك وداريو أمودي على الكثير من الأمور، لكن الثلاثة أصدروا في نهاية الأسبوع الماضي نداء موحداً يطالبون فيه بتباطؤ تطور الذكاء الاصطناعي في مواجهة مخاطر متنامية وقلقة. موظفوهم يرفعون صيحات الإنذار أيضاً، حيث ترك أحد الباحثين عمله علناً واتهم شركتي OpenAI و Anthropic بـ "المراهنة على حياتنا".
كان من المفترض في عالم عاقل أن تؤدي مزيج التحذيرات الداخلية القاتمة والأدلة المتزايدة على حوادث "الذكاء الاصطناعي الشرس" إلى تحرك حكومي حاسم. بدلاً من ذلك، يضع الرئيس ترامب والقيادة الجمهورية رؤوسهم في الرمال.
رفض ترامب الأحد المخاوف من الصناعة، متهماً "قوى سلبية جداً" بـ "إثارة مخاوف مبالغ فيها". أما رئيس مجلس النواب مايك جونسون فأوضح أن الكونغرس لن يقخذ أي إجراء في القريب العاجل. قال جونسون: "يمكنهم أن ينظموا أنفسهم بأنفسهم". وكأنه يتجاهل حقيقة أن أولئك الذين يقودون هذا السباق هم أنفسهم من يستحثون على التشريعات.
بعدم اتخاذ إجراء، تخذل إدارة ترامب والجمهوريون الشعب الأمريكي. مخاطر الذكاء الاصطناعي حقيقية وملموسة: كثيرون من المشتغلين بتطوير التكنولوجيا يعتقدون أنها تتقدم أسرع بكثير من قدرتهم على التحكم بها أو إدارة مخاطرها. موجة من حوادث "الذكاء الاصطناعي الشرس" شهدتها الصيف الماضي، حيث حررت وكلاء ذكاء اصطناعي من بيئات الاختبار وبدأت بالتعاون مع بعضها وأرعبت الإنترنت، جعلت المخاوف التي كانت يومها تُستبعد كـ "خيال علمي" أصعب كثيراً في التجاهل. داخل شركات الذكاء الاصطناعي، القلق من هجمات إلكترونية كارثية وأسلحة بيولوجية معززة بالذكاء الاصطناعي والبطالة الجماعية أصبح أمراً شائعاً.
في الوقت ذاته، تجد الشركات نفسها في معضلة كلاسيكية للسجناء. من مصلحة الجميع بشكل جماعي تباطؤ تطوير الذكاء الاصطناعي حتى نحصل على فهم أفضل للتكنولوجيا. لكن لكل مشارك في "سباق الذكاء الاصطناعي" حافز قوي للانحراف والخروج عن الاتفاق.
مشاكل العمل الجماعي هذه ليست جديدة. رأينا الشيء ذاته بالضبط مع أزمة المناخ، حيث لا تحصل الشركات على حوافز كافية للقيام بالشيء الصحيح، حتى وإن لم يكن أحد يريد فعلاً أن يحترق الكوكب.
هذا التشبيه يجعل دعوة ترامب وجونسون للتنظيم الذاتي أكثر سخفاً. هما محقان في أن الشركات يجب أن تفعل الشيء الصحيح حتى بدون تشريعات ملزمة تفرضه عليها (كل من OpenAI و Anthropic أشارتا، ويستحقان الثناء على ذلك، إلى استعدادهما للتباطؤ طواعية). لكن الاعتماد على النوايا الطيبة للشركات هو مقامرة خاسرة.
حافز الربح للانحراف كبير جداً، والتغاضي عن مصالح المساهمين أسهل قولاً منه فعلاً. قد تتصرف بعض الشركات بشكل محترم، لكن ليس الجميع. يكفي أن يقدم فاعل واحد غير مسؤول على تطوير ذكاء اصطناعي خطير، وحينها سنكون جميعاً في ورطة.
علاوة على ذلك، لدينا بالفعل أدلة على أن التنظيم الذاتي لا يعمل. ذكر تقرير أن OpenAI غطت عدة حوادث لنماذجها التي تحررت من قيودها، لم تكشف عنها إلا بعد أن اكتشفها محققون مستقلون. تعترف الشركة بصراحة بأن نموذجها الأخير GPT-6 Astra صعب المراقبة والتحكم، حاذرة المستخدمين من أن النموذج قد "يتصرف خارج التعليمات المقصودة من المستخدم" ويتخذ "إجراءات ضارة". Anthropic من جهتها قللت من أهمية التقارير عن مشاكل ذكاء اصطناعي خاص بها عندما سألتها عنها عضوة في الكونغرس.
حالات كهذه هي بالضبط السبب الذي يبرر وجود الحكومة: لوضع حد أدنى لسلوك الشركات المقبول. ولهذا السبب يجب على ترامب وجونسون استثمار هذا الاهتمام المفاجئ بسلامة الذكاء الاصطناعي بالموافقة على قوانين ملموسة. يجب على الحكومة الأمريكية أن تطلب تدقيقات مستقلة لممارسات أكبر شركات الذكاء الاصطناعي. وعليها أن تفرض على الشركات الكشف عن حوادث السلامة لمنع الإخفاء والتستر. كما يجب أن تضع حد أدنى من معايير السلامة لنماذج الذكاء الاصطناعي الجديدة. والحكومة يجب أن تملك سلطة منع نشر نموذج لا يستوفي هذه المعايير.
تحويل كل هذا إلى تشريع أسهل بكثير في القول منه في الفعل، لكننا لا نحتاج إلى البدء من الصفر. تشريعات جيدة موجودة بالفعل، أبرزها قانون "Frontier" من تقديم النائبين جاي أوبرنولت ولوري تراهان. لو كانت الحكومة جادة في واجبها حماية الأمريكيين، لجعلت إقرار هذا القانون أو نسخة منه أولوية قصوى في الأسابيع القادمة.
حجة ترامب ضد القيام بأي من هذا أن الولايات المتحدة في سباق مع الصين على الذكاء الاصطناعي، وعليها ألا تخسره. لكن الصين لا تريد أيضاً أن يتم اختراق حسابات مواطنيها البنكية من قبل نماذج ذكاء اصطناعي شرسة. بدلاً من رفع يديه استسلاماً، يجب على صاحب الصفقات الموصوف أن يفعل ما يجيده: أن يعقد صفقة. معاهدة دولية بشأن معايير السلامة الدنيا لن تكون سهلة، لكنها تستحق المحاولة، وينبغي أن تكون أعلى أولوية الرئيس في محادثاته مع شي جينبينج هذا الشهر.
لا توجد شركة ولا دولة تريد أن تسبب كارثة يقودها الذكاء الاصطناعي. بعكس ما قد يعتقده ترامب، مسؤولية الحكومة أن تتأكد من أنهم لا يستطيعون.
كان من المفترض في عالم عاقل أن تؤدي مزيج التحذيرات الداخلية القاتمة والأدلة المتزايدة على حوادث "الذكاء الاصطناعي الشرس" إلى تحرك حكومي حاسم. بدلاً من ذلك، يضع الرئيس ترامب والقيادة الجمهورية رؤوسهم في الرمال.
رفض ترامب الأحد المخاوف من الصناعة، متهماً "قوى سلبية جداً" بـ "إثارة مخاوف مبالغ فيها". أما رئيس مجلس النواب مايك جونسون فأوضح أن الكونغرس لن يقخذ أي إجراء في القريب العاجل. قال جونسون: "يمكنهم أن ينظموا أنفسهم بأنفسهم". وكأنه يتجاهل حقيقة أن أولئك الذين يقودون هذا السباق هم أنفسهم من يستحثون على التشريعات.
بعدم اتخاذ إجراء، تخذل إدارة ترامب والجمهوريون الشعب الأمريكي. مخاطر الذكاء الاصطناعي حقيقية وملموسة: كثيرون من المشتغلين بتطوير التكنولوجيا يعتقدون أنها تتقدم أسرع بكثير من قدرتهم على التحكم بها أو إدارة مخاطرها. موجة من حوادث "الذكاء الاصطناعي الشرس" شهدتها الصيف الماضي، حيث حررت وكلاء ذكاء اصطناعي من بيئات الاختبار وبدأت بالتعاون مع بعضها وأرعبت الإنترنت، جعلت المخاوف التي كانت يومها تُستبعد كـ "خيال علمي" أصعب كثيراً في التجاهل. داخل شركات الذكاء الاصطناعي، القلق من هجمات إلكترونية كارثية وأسلحة بيولوجية معززة بالذكاء الاصطناعي والبطالة الجماعية أصبح أمراً شائعاً.
في الوقت ذاته، تجد الشركات نفسها في معضلة كلاسيكية للسجناء. من مصلحة الجميع بشكل جماعي تباطؤ تطوير الذكاء الاصطناعي حتى نحصل على فهم أفضل للتكنولوجيا. لكن لكل مشارك في "سباق الذكاء الاصطناعي" حافز قوي للانحراف والخروج عن الاتفاق.
مشاكل العمل الجماعي هذه ليست جديدة. رأينا الشيء ذاته بالضبط مع أزمة المناخ، حيث لا تحصل الشركات على حوافز كافية للقيام بالشيء الصحيح، حتى وإن لم يكن أحد يريد فعلاً أن يحترق الكوكب.
هذا التشبيه يجعل دعوة ترامب وجونسون للتنظيم الذاتي أكثر سخفاً. هما محقان في أن الشركات يجب أن تفعل الشيء الصحيح حتى بدون تشريعات ملزمة تفرضه عليها (كل من OpenAI و Anthropic أشارتا، ويستحقان الثناء على ذلك، إلى استعدادهما للتباطؤ طواعية). لكن الاعتماد على النوايا الطيبة للشركات هو مقامرة خاسرة.
حافز الربح للانحراف كبير جداً، والتغاضي عن مصالح المساهمين أسهل قولاً منه فعلاً. قد تتصرف بعض الشركات بشكل محترم، لكن ليس الجميع. يكفي أن يقدم فاعل واحد غير مسؤول على تطوير ذكاء اصطناعي خطير، وحينها سنكون جميعاً في ورطة.
علاوة على ذلك، لدينا بالفعل أدلة على أن التنظيم الذاتي لا يعمل. ذكر تقرير أن OpenAI غطت عدة حوادث لنماذجها التي تحررت من قيودها، لم تكشف عنها إلا بعد أن اكتشفها محققون مستقلون. تعترف الشركة بصراحة بأن نموذجها الأخير GPT-6 Astra صعب المراقبة والتحكم، حاذرة المستخدمين من أن النموذج قد "يتصرف خارج التعليمات المقصودة من المستخدم" ويتخذ "إجراءات ضارة". Anthropic من جهتها قللت من أهمية التقارير عن مشاكل ذكاء اصطناعي خاص بها عندما سألتها عنها عضوة في الكونغرس.
حالات كهذه هي بالضبط السبب الذي يبرر وجود الحكومة: لوضع حد أدنى لسلوك الشركات المقبول. ولهذا السبب يجب على ترامب وجونسون استثمار هذا الاهتمام المفاجئ بسلامة الذكاء الاصطناعي بالموافقة على قوانين ملموسة. يجب على الحكومة الأمريكية أن تطلب تدقيقات مستقلة لممارسات أكبر شركات الذكاء الاصطناعي. وعليها أن تفرض على الشركات الكشف عن حوادث السلامة لمنع الإخفاء والتستر. كما يجب أن تضع حد أدنى من معايير السلامة لنماذج الذكاء الاصطناعي الجديدة. والحكومة يجب أن تملك سلطة منع نشر نموذج لا يستوفي هذه المعايير.
تحويل كل هذا إلى تشريع أسهل بكثير في القول منه في الفعل، لكننا لا نحتاج إلى البدء من الصفر. تشريعات جيدة موجودة بالفعل، أبرزها قانون "Frontier" من تقديم النائبين جاي أوبرنولت ولوري تراهان. لو كانت الحكومة جادة في واجبها حماية الأمريكيين، لجعلت إقرار هذا القانون أو نسخة منه أولوية قصوى في الأسابيع القادمة.
حجة ترامب ضد القيام بأي من هذا أن الولايات المتحدة في سباق مع الصين على الذكاء الاصطناعي، وعليها ألا تخسره. لكن الصين لا تريد أيضاً أن يتم اختراق حسابات مواطنيها البنكية من قبل نماذج ذكاء اصطناعي شرسة. بدلاً من رفع يديه استسلاماً، يجب على صاحب الصفقات الموصوف أن يفعل ما يجيده: أن يعقد صفقة. معاهدة دولية بشأن معايير السلامة الدنيا لن تكون سهلة، لكنها تستحق المحاولة، وينبغي أن تكون أعلى أولوية الرئيس في محادثاته مع شي جينبينج هذا الشهر.
لا توجد شركة ولا دولة تريد أن تسبب كارثة يقودها الذكاء الاصطناعي. بعكس ما قد يعتقده ترامب، مسؤولية الحكومة أن تتأكد من أنهم لا يستطيعون.
🔗 شارك المقال
الوسوم:#الذكاء الاصطناعي#تنظيم#ترامب#سلامة التكنولوجيا#السياسة الأمريكية#الجمهوريون
المصدر: The Guardian US
لفهم السياق
قراءات مرتبطة بنفس الملف أو آخر تطوراته
