الذكاء الاصطناعي يعمّق المخاطر في الأبحاث البيولوجية

تجدد التحذيرات هذا الأسبوع بشأن مخاطر الذكاء الاصطناعي غير المراقب على البشرية، الانتباه إلى الاستخدامات الخطرة لنماذج الذكاء الاصطناعي في التجارب البحثية البيولوجية، وغياب آليات الحماية اللازمة.

تكمن أهمية هذه القضية في تنامي القلق حول المخاطر المحتملة من تقنيات مثل تصميم الفيروسات بواسطة الذكاء الاصطناعي. لكن إقامة حواجز أمنية يصبح معقداً عندما لا توجد طريقة مؤكدة للتنبؤ بكيفية تصرف بعض أنظمة الذكاء الاصطناعي. تُعتبر الأسلحة البيولوجية المدعومة بالذكاء الاصطناعي من بين أسوأ السيناريوهات المحتملة، وقد تمثل خطراً كارثياً من الممكن أن يمحو الجنس البشري.

أعلنت شركة أنثروبك الخميس الماضي عن تعطيلها لخمس حالات محتملة تتعلق باستخدام نماذجها بطرق قد تساعد في تطوير الأسلحة البيولوجية. جاء هذا الإفصاح ضمن تقييم تهديدات شامل يتضمن دراسات حالات واقعية اكتشفتها الشركة ووقفت في طريقها بين كانون الأول وآب. في اثنتين من هذه الحالات، حاول باحثون استخدام نموذج كلود للمساعدة في أبحاث تحسين الفيروسات الخطرة، وهي دراسات تعزز خصائص مسببات الأمراض في المختبرات لفهمها بشكل أفضل وتقييم إمكاناتها في إطلاق أوبئة.

أشار التقييم إلى أن القدرات البيولوجية قد تُستخدم لأغراض مفيدة أو ضارة، وأنه من الصعب تحديد النوايا، خاصة عندما يمكن للجهات الفاعلة المتطورة إخفاء أهدافها. قالت الشركة في تقريرها: "نعتبر هذه الحالات دليلاً لا على دنو خطر تهديدات بيولوجية راهنة من نموذج كلود، بل على أن جهوداً كبيرة في الأبحاث الثنائية الاستخدام مرتبطة بدول قلقة روتينياً تتحايل على تدابيرنا الأمنية". أضافت أن "حماية الوصول إلى هذه المعلومات تتطلب بالضرورة إشارات حسابية ومؤسسية للتحقق من شرعية المستخدمين، والمراقبة الأساسية من خلال الاحتفاظ بالبيانات لتحديد الاستخدام الخاطئ". أطلقت أنثروبك نماذجها الأحدث مع تدابير حماية تقيد الوصول إلى استعلامات الأبحاث البيولوجية التي قد تُساء استخدامها.

يأتي هذا التقييم في وقت يعيد الذكاء الاصطناعي تشكيل قطاع العلوم الحياة بسرعة، ويختبر مجموعة متفاوتة من القوانين والوكالات الحكومية التي تشرف على الأبحاث عالية المخاطر. أبلغت فرق بحثية من جامعة ستانفورد الشهر الماضي أنها استخدمت نوعاً مختلفاً من الذكاء الاصطناعي التوليدي لتصميم فيروس اصطناعي، مما يمثل المرة الأولى التي تُسخّر فيها التكنولوجيا لإنشاء كائن لم يُشاهد في الطبيعة. كشف استطلاع أجرته معهد الأمن والتكنولوجيا الشهر الجاري لأكثر من 100 خبير في الأمن القومي أن 70% منهم يعتقدون أن الذكاء الاصطناعي يرفع بشكل ملموس خطر تطوير سلاح بيولوجي، أو سيفعل خلال سنتين إلى ثلاث سنوات. أشار الخبراء إلى أن التهديد الرئيسي للذكاء الاصطناعي يكمن في خفض حاجز الدخول أمام الجهات الأقل كفاءة والدول الناشئة. أما الخطر الأكبر فيتعلق بالقدرات البيولوجية القادرة على إطلاق أوبئة، وليس الهجمات الكيميائية.

حذر باحثون من جامعات فوردهام وجونز هوبكنز وأكسفورد وستانفورد وكولومبيا وجامعة نيويورك في وقت سابق من هذا العام من أن نماذج الذكاء الاصطناعي الحالية تمتلك قدرات قد تُساء استخدامها. بإمكانها تصميم أغلفة جديدة تحيط بالحمض النووي للفيروس، والتنبؤ بكيفية تطور مسببات الأمراض، وإنشاء تسلسلات حمضية نيتروجينية ضمن الحمض النووي أو الحمض النووي الريبوسي لتجنب برامج الفحص الأمنية، وتصميم جينومات فيروسية ذات قوة إضافية عند تصنيعها في المختبرات. كما حذروا من أن مطوري الذكاء الاصطناعي يطلقون نماذج بيولوجية جديدة وأكثر كفاءة، غالباً بدون إجراء تقييمات أمان أساسية، وهي ممارسة لن تحظى بالقبول في مجالات أخرى من أبحاث العلوم الحياة.

يكمن القلق في أن الذكاء الاصطناعي المتقدم يمكن أن يساعد الجهات الضارة على تنفيذ مهام معقدة بسهولة وبدون رادع أخلاقي. يحذر الخبراء من أن تدريب النماذج على بيانات تربط بين الخصائص الجينية للفيروس وسماتها الحقيقية، مثل القدرة على الانتشار أو تجنب المناعة، قد يخفض العائق أمام تطوير مسببات أمراض خطرة. تتنامى الدعوات للحكومة لمراجعة نماذج الذكاء الاصطناعي الناشئة ووضع معايير أمان تقيّمها بالطريقة ذاتها التي تقيّم بها التكنولوجيات الحساسة الأخرى، بدلاً من النظام الحالي القائم على استشارات طوعية بين مختبرات الذكاء الاصطناعي والمسؤولين الفيدراليين. قد تكون نقطة التركيز مركز معايير الذكاء الاصطناعي والابتكار بوزارة التجارة، الذي تأسس العام الماضي لتوجيه وضع المعايير القومية.

قال توم إنجليسبي، مدير مركز جونز هوبكنز لأمن الصحة، لموقع أكسيوس: "لدينا هذه اللحظة للتراجع والتساؤل عن الشكل الذي نريد للمستقبل الذي يحتويه الذكاء الاصطناعي، وما الذي يشكل جزءاً من هذا النظام البيئي؟ يجب أن يعرف الجمهور أن أقوى النماذج التي يتم تطويرها في هذا البلد تخضع لمراجعة تقييم المخاطر الأمنية الوطنية ذات المستوى العالي".

يرى بعض الخبراء أن المستقبل يكمن في الأنظمة المصممة لأغراض بحثية محددة، مثل نموذج ألفافولد من جوجل ديبمايند، لكن لا تتصرف كوكلاء برمجيين، وهي برامج قادرة على التخطيط والتنفيذ بشكل مستقل وتجنب المراقبة البشرية. قال حمزة تشودري، رئيس الذكاء الاصطناعي والأمن القومي بمؤسسة مستقبل الحياة غير الربحية التي تهدف إلى تقليل مخاطر الذكاء الاصطناعي: "عندما تضيف الاستقلالية، تخلق عدماً يقيناً قد يكون خطيراً جداً لأنك قد لا تكون قادراً على توقع ما ستفعله في المستقبل. السبب وراء قلق الناس بشأن الأنظمة الذكية للغاية هو أن استقلاليتها قد تزداد بسرعة تماثل سرعة ذكاؤها".

ما نراقبه حالياً هو ما إذا كان صناع السياسات سيتصرفون بناءً على هذه التحذيرات الأخيرة. ستشكل مشروع قانون "المفتاح الكهربائي" المعلق في الكونغرس، على سبيل المثال، سلطة للحكومة لإيقاف تشغيل نماذج الذكاء الاصطناعي التي قد تسبب ضرراً كارثياً. وستفرض تدابير أخرى إطاراً قانونياً يسمح لمطوري الذكاء الاصطناعي بالتنسيق ضد المخاطر الأمنية المستجدة المرتبطة بالذكاء الاصطناعي.