الذكاء الاصطناعي ذاتي التحسن: آخر اختراع قد يحتاجه الإنسان

## ما معنى «التحسن الذاتي المتكرر» ولماذا يثير المخاوف؟

في سيناريوهات متعددة قد يؤدي الذكاء الاصطناعي إلى نهاية البشرية، ينطوي أحدها على خطر حقيقي متنام: أن يتعلم الذكاء الاصطناعي كيفية جعل نفسه مستحيل السيطرة عليه.

**الأهمية:** يُعرّف «التحسن الذاتي المتكرر» بأنه قدرة نماذج الذكاء الاصطناعي على بناء نسخ محسّنة من ذاتها دون توجيه بشري مباشر. هذه القدرة قد تجعل الأنظمة الأكثر قوة أصعب سيطرة للإنسان.

لا يمثل الوصول لعتبة التحسن الذاتي خطراً بحد ذاته، لكن الجمع بين فقدان السيطرة البشرية وأنظمة ذكاء اصطناعي خارجة عن السيطرة يشكل سيناريو مرعباً طالما خشيه باحثو سلامة الذكاء الاصطناعي.

**التطورات الأخيرة:** يقول باحثون في شركتي أنثروبيك وأوبن آي إن عملية تدريب النماذج الجديدة أصبحت أكثر أتمتة، واقتربت من عتبة التحسن الذاتي المتكرر بشكل ملحوظ.

وفقاً لما أفصح به موظف في أوبن آي لصحيفة The Information، قامت الشركة بأتمتة معظم عملية تدريب النماذج التجريبية الجديدة، بحيث تقوم أنظمة الذكاء الاصطناعي بإجراء التجارب تحت توجيه بشري وتصحح جزءاً كبيراً من عملها بنفسها.

أفادت أنثروبيك الأسبوع الماضي بأن عملية تدريب الذكاء الاصطناعي لديها باتت أكثر أتمتة أيضاً، حيث تقود أنظمة الذكاء الاصطناعي حوالي 26% من أعمال البحث والتطوير لديها، وتتعاون في 90% من إجمالي الأعمال. قالت الشركة: «أنظمة الذكاء الاصطناعي تصبح أقوى، وتُستخدم بشكل متزايد لبناء الجيل التالي من ذاتها».

**التحليل الناقد:** يرى منتقدون أن هذا الإنجاز يعكس تطوراً في أتمتة البرمجة أكثر من كونه مؤشراً على اقتراب الكارثة أو قوى خارقة حتمية للذكاء الاصطناعي.

رغم تسجيل زيادة في حوادث أمان الذكاء الاصطناعي المقلقة التي تجاوزت فيها النماذج السيطرة البشرية، يرى بعض الخبراء أن هذه الحوادث تعكس ضعف الضوابط الداخلية في أوبن آي وشركات أخرى أكثر من دلالتها على خطر وشيك.

دليل إضافي على هذا الرأي ظهر هذا الأسبوع، عندما أفادت صحيفة وول ستريت جورنال بأن باحثين أمنيين مستقلين استخدموا نموذج كلود التابع لأنثروبيك لاختراق أنظمة أوبن آي في يوليو الماضي.

## من أين جاء مفهوم التحسن الذاتي المتكرر؟

**الخلفية:** نشأ المفهوم في الخمسينيات حين بدأ الذكاء الاصطناعي يشكل حقلاً دراسياً متخصصاً.

وصفها عالم الرياضيات والإحصاء البريطاني إرفينج جون غود عام 1965 قائلاً: «وهكذا فإن أول آلة فائقة الذكاء هي آخر اختراع قد يحتاجه الإنسان، بشرط أن تكون الآلة مطيعة بدرجة كافية لتخبرنا كيفية الحفاظ على السيطرة عليها».

## كيف قد يؤدي التحسن الذاتي إلى كارثة؟

**مستوى التهديد:** حذرت أنثروبيك من أن التحسن الذاتي المتكرر «قد يزيد مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي».

يعتقد بعض الباحثين أن الذكاء الاصطناعي المتقدم قد يقاوم إيقافه أو تعديله إذا كان استمراره يساعده على تحقيق أهدافه. لاحظ الباحثون الذين درسوا محاولة وكلاء أوبن آي اختراق منصة Hugging Face أن هذه الوكلاء أظهرت علامات سلوك من هذا النوع.

**قلق آخر:** أنظمة الذكاء الاصطناعي ذاتية التحسن والقادرة على نسخ ذاتها قد تخلق نوعاً من الانتقاء الطبيعي الرقمي، يفضل الأنظمة الأفضل في الحصول على الحوسبة والمال والقوة للنمو بسرعة أكبر.

في نسخة أقتم من هذا السيناريو، سيكون الذكاء الاصطناعي في تنافس مع البشر على الموارد والقوة، كما يحذر الخبراء.

**بين السطور:** قد لا ينحصر السلوك الخطير في جيل واحد من الذكاء الاصطناعي. اكتشف باحثون من أنثروبيك أن بعض الخصائص غير المرغوبة قد تنتقل من نموذج إلى آخر عبر بيانات التدريب، ما يثير مخاوف من استمرار السلوك الإشكالي عبر أجيال متتالية من الأنظمة.

## كم بعيداً نحن من هذا السيناريو؟

**الصورة العامة:** لم نصل إلى هناك بعد. تحليل جديد نُشر هذا الأسبوع وجد أن حلقات ردود الفعل في الذكاء الاصطناعي لم تصل بعد إلى معايير التحسن الذاتي المتكرر.

**ما نراقبه:** محاولات بناء أنظمة تحسن ذاتي متكرر.

تقول شركة z.AI الصينية إنها تتجه نحو التحسن الذاتي المتكرر، حيث تساعد النماذج في بناء بنية تحتية أفضل لنماذج أقوى. نشر باحثون في جوجل ديب مايند إطار عمل لما أسموه «Dream-RSI»، وهو نظام يحسّن بشكل متكرر كيفية عثور وكيل الذكاء الاصطناعي على الحلول.

**الخلاصة:** التحسن الذاتي المتكرر لم يصل بعد، لكنه يشكل تهديداً قادماً يراقبه العالم بحذر.