باحثون من أنثروبيك يحذرون: الذكاء الاصطناعي قد يُنهي البشرية
Axios
A
Axios
المصدر الأصلي
حذّر باحثون بارزون من شركة أنثروبيك للذكاء الاصطناعي من أن التكنولوجيا قد تؤدي إلى انقراض البشرية خلال هذا العقد، مؤكدين أن هذا ليس دعاية تسويقية بل اعتقاد حقيقي يتبناه صناع هذه التقنيات. جاءت التحذيرات بعد أيام من قيادات في شركة أوبن إيه آي، بينها الرئيس التنفيذي سام ألتمان، أعربوا عن قلق مماثل من سيطرة الذكاء الاصطناعي بات خارج السيطرة.
أطلق ثلاثة باحثين من شركة أنثروبيك، متخصصة في الذكاء الاصطناعي، تحذيرات مرعبة أمس بشأن أنظمة ذكاء اصطناعي قد تخرج عن السيطرة، منبهين إلى احتمالية إبادة الجنس البشري خلال السنوات القادمة.
قال جيكوب كوكسون، أحد الباحثين في أنثروبيك، الذي استقال يوم الثلاثاء ليطلق صرخة التحذير على منصة إكس: "الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي يعتقدون بصدق أنها قد تقضي علينا جميعاً قبل نهاية هذا العقد. هذا ليس حملة تسويقية. إن كل ما في الأمر أن عدداً من المديرين والباحثين الأكاديميين البارزين يختارون صياغة حديثهم بحذر أمام وسائل الإعلام ليبدوا معقولين، لكنني أسمعهم يعبرون عن الخوف الحقيقي في حواراتهم الخاصة. لا توجد أي نشاطات بشرية أخرى تشكل هذا المستوى من الخطر."
وانضم إيفان هوبينغر، رئيس قسم علم المحاذاة في أنثروبيك، إلى كوكسون: "جيكوب محق تماماً، نحن نعتقد فعلاً أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء! أنا شخصياً أرى احتمالاً يتجاوز 10 في المئة لحدوث هذا خلال السنوات العشر القادمة. أعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لم نتوصل بعد إلى خطة لحل مسألة محاذاة الأنظمة الفائقة الذكاء، ولا يبدو أننا على الطريق الصحيح لتحقيق ذلك."
أضاف صموئيل مارك، مسؤول الإشراف القابل للتوسع في الشركة: "مطورو الذكاء الاصطناعي يعتقدون أن تكنولوجياهم قد تسبب انقراض البشرية أو نتائج مماثلة كارثية. قد يحدث هذا في السنوات القليلة القادمة. بشكل عام، كلما ارتفع مستوى الموظف في الشركة، كان قلقه أكبر."
**السياق والأهمية**
هؤلاء الباحثون ليسوا وحيدين في تحذيراتهم. جاءت تصريحاتهم بعد أيام فقط من أن قيادات كبرى في شركة أوبن إيه آي، بينها الرئيس التنفيذي سام ألتمان، قالوا إن الذكاء الاصطناعي يتجه نحو مرحلة مخيفة وغير قابلة للسيطرة.
تشير التحذيرات الصادرة من داخل عمالقة الذكاء الاصطناعي إلى معضلة مشتركة غير مسبوقة: إما أن تبطئ وتخاطر بالتخلف عن الركب، أو تسرع قدماً وتخاطر بفقدان السيطرة على ما تطلقه للعالم. لكن الشركات تسير بسرعة كاملة، حتى وهي تستحث صراحة على التنظيم أو فرض توقف عالمي، وفقاً لما أفاد به الزملاء ماريا كوري وماديسون ميلز وإينا فريد من إكس.
**الصورة الكبرى**
وصف حالتنا الحالية بأنها غير مسبوقة سيكون تقليلاً من شأنها. لدينا أسرع الشركات نمواً في التاريخ البشري تحذر علناً من أن منتجاتها قد تضر البشرية أو حتى تفنيها.
ينتقد المعارضون شركتي أنثروبيك وأوبن إيه آي، متهمين إياهما بالمبالغة في الترويج لمنتجاتهما لرفع تقييماتهما وجذب لوائح تنظيمية تنفعهما وحدهما كلاعبين محتكرين. غير أننا تحدثنا مع عشرات الموظفين من داخل هاتين الشركتين على مدى أشهر، وبدوا قلقين بشكل متزايد. بما أنهم يشهدون أنماذج لم تُطلق بعد للجمهور، يبدو من غير المسؤول عدم أخذهم بجدية.
**وجهة نظر المحررين**
هذا بالتأكيد محتوى مرعب، وهذه التحذيرات الغامضة يستحيل التحقق منها أو تقييمها بدقة. لكننا نعتقد أن القراء، خاصة أعضاء الكونغرس والمسؤولين في الوكالات الفيدرالية ذات الصلة، يجب أن يكونوا على علم بأن صناع الذكاء الاصطناعي أنفسهم يرون احتمالية نتائج كارثية إذا لم تتغير الطريقة التي تراجع بها الولايات المتحدة والصين والدول الأخرى وتطلق نماذج ذكاء اصطناعي أقوى.
**كيفية فهم الموضوع**
لا أحد يحذر من أن الذكاء الاصطناعي يشكل تهديداً فوري عالي المستوى. ما يقولونه هو أن التكنولوجيا تتحسن أسرع بكثير مما توقعوا، وستكون قريباً قادرة على تحسين نفسها بنفسها (ما يُعرف بالتحسن الذاتي المتكرر). حين يحدث ذلك، ستصبح أفضل وأسرع وأصعب بكثير في التنبؤ بسلوكها أو السيطرة عليها.
قال جيكوب كوكسون، أحد الباحثين في أنثروبيك، الذي استقال يوم الثلاثاء ليطلق صرخة التحذير على منصة إكس: "الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي يعتقدون بصدق أنها قد تقضي علينا جميعاً قبل نهاية هذا العقد. هذا ليس حملة تسويقية. إن كل ما في الأمر أن عدداً من المديرين والباحثين الأكاديميين البارزين يختارون صياغة حديثهم بحذر أمام وسائل الإعلام ليبدوا معقولين، لكنني أسمعهم يعبرون عن الخوف الحقيقي في حواراتهم الخاصة. لا توجد أي نشاطات بشرية أخرى تشكل هذا المستوى من الخطر."
وانضم إيفان هوبينغر، رئيس قسم علم المحاذاة في أنثروبيك، إلى كوكسون: "جيكوب محق تماماً، نحن نعتقد فعلاً أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء! أنا شخصياً أرى احتمالاً يتجاوز 10 في المئة لحدوث هذا خلال السنوات العشر القادمة. أعتقد أن أنثروبيك تبذل قصارى جهدها، لكننا لم نتوصل بعد إلى خطة لحل مسألة محاذاة الأنظمة الفائقة الذكاء، ولا يبدو أننا على الطريق الصحيح لتحقيق ذلك."
أضاف صموئيل مارك، مسؤول الإشراف القابل للتوسع في الشركة: "مطورو الذكاء الاصطناعي يعتقدون أن تكنولوجياهم قد تسبب انقراض البشرية أو نتائج مماثلة كارثية. قد يحدث هذا في السنوات القليلة القادمة. بشكل عام، كلما ارتفع مستوى الموظف في الشركة، كان قلقه أكبر."
**السياق والأهمية**
هؤلاء الباحثون ليسوا وحيدين في تحذيراتهم. جاءت تصريحاتهم بعد أيام فقط من أن قيادات كبرى في شركة أوبن إيه آي، بينها الرئيس التنفيذي سام ألتمان، قالوا إن الذكاء الاصطناعي يتجه نحو مرحلة مخيفة وغير قابلة للسيطرة.
تشير التحذيرات الصادرة من داخل عمالقة الذكاء الاصطناعي إلى معضلة مشتركة غير مسبوقة: إما أن تبطئ وتخاطر بالتخلف عن الركب، أو تسرع قدماً وتخاطر بفقدان السيطرة على ما تطلقه للعالم. لكن الشركات تسير بسرعة كاملة، حتى وهي تستحث صراحة على التنظيم أو فرض توقف عالمي، وفقاً لما أفاد به الزملاء ماريا كوري وماديسون ميلز وإينا فريد من إكس.
**الصورة الكبرى**
وصف حالتنا الحالية بأنها غير مسبوقة سيكون تقليلاً من شأنها. لدينا أسرع الشركات نمواً في التاريخ البشري تحذر علناً من أن منتجاتها قد تضر البشرية أو حتى تفنيها.
ينتقد المعارضون شركتي أنثروبيك وأوبن إيه آي، متهمين إياهما بالمبالغة في الترويج لمنتجاتهما لرفع تقييماتهما وجذب لوائح تنظيمية تنفعهما وحدهما كلاعبين محتكرين. غير أننا تحدثنا مع عشرات الموظفين من داخل هاتين الشركتين على مدى أشهر، وبدوا قلقين بشكل متزايد. بما أنهم يشهدون أنماذج لم تُطلق بعد للجمهور، يبدو من غير المسؤول عدم أخذهم بجدية.
**وجهة نظر المحررين**
هذا بالتأكيد محتوى مرعب، وهذه التحذيرات الغامضة يستحيل التحقق منها أو تقييمها بدقة. لكننا نعتقد أن القراء، خاصة أعضاء الكونغرس والمسؤولين في الوكالات الفيدرالية ذات الصلة، يجب أن يكونوا على علم بأن صناع الذكاء الاصطناعي أنفسهم يرون احتمالية نتائج كارثية إذا لم تتغير الطريقة التي تراجع بها الولايات المتحدة والصين والدول الأخرى وتطلق نماذج ذكاء اصطناعي أقوى.
**كيفية فهم الموضوع**
لا أحد يحذر من أن الذكاء الاصطناعي يشكل تهديداً فوري عالي المستوى. ما يقولونه هو أن التكنولوجيا تتحسن أسرع بكثير مما توقعوا، وستكون قريباً قادرة على تحسين نفسها بنفسها (ما يُعرف بالتحسن الذاتي المتكرر). حين يحدث ذلك، ستصبح أفضل وأسرع وأصعب بكثير في التنبؤ بسلوكها أو السيطرة عليها.
🔗 شارك المقال
الوسوم:#الذكاء الاصطناعي#أنثروبيك#أوبن إيه آي#تكنولوجيا#أمن الذكاء الاصطناعي#تحذيرات
المصدر: Axios
