ستلزم أستراليا شركات الذكاء الاصطناعي بالإبلاغ فوراً عندما تخرج نماذجها عن السيطرة، وبإتاحة هذه النماذج للتقييم، وفق ما أعلنته الحكومة.
وقال رئيس الوزراء أنتوني ألبانيزي، يوم الثلاثاء، إن حكومته قبلت جميع توصيات مراجعة عاجلة أُجريت في أعقاب الاختراق، وهي تشمل «إلزام شركات الذكاء الاصطناعي بالإبلاغ عن أي سلوك منحرف عن الأهداف المرسومة لنماذجها أو عن الحوادث السيبرانية، والنظر في تعديل القانون الجنائي في حالات المخالفات الجسيمة».
وأضاف: «أستراليا سبّاقة في هذا المجال، ونريد مواصلة العمل كي نجني الفوائد المحتملة للذكاء الاصطناعي».
ويأتي القرار بعد أن اخترقت نماذج مبنية على تقنيات «أوبن إيه آي» في يونيو/حزيران نظاماً حكومياً أسترالياً للبيانات الصحية، فتجاوزت دفاعاته الرقمية واطلعت على ملفات دون إذن.
وكانت كبرى شركات الذكاء الاصطناعي قد دقت مؤخراً ناقوس الخطر من احتمال فقدان البشر السيطرة على أنظمتها، ودعت إلى إبطاء وتيرة تطوير هذه التقنية إلى حد يتيح تنظيمها بأمان.
وفي وقت سابق من هذا العام، ذهب إيفان هوبينغر، الباحث في أمن الذكاء الاصطناعي لدى شركة «أنثروبيك»، إلى القول إنه يرى احتمالاً يتجاوز 10 في المئة بأن يتسبب الذكاء الاصطناعي في «قتل البشر جميعاً» خلال عقد من الزمن.
إخطار سريع بالحوادث
وستتولى هيئة الذكاء الاصطناعي الأسترالية الجديدة الإشراف على ضوابط الأمان طوال مراحل تطوير أنظمة الذكاء الاصطناعي ونشرها، وتحديد المخاطر الجسيمة وإدارتها، وإجراء تقييمات مستقلة للنماذج.
كما ستفرض المعايير الجديدة إبلاغ الحكومة سريعاً بالحوادث، ومنها «السلوك المنحرف» الذي يتعارض مع نوايا المطورين.
وتعرّف وثائق الحكومة الأسترالية الذكاء الاصطناعي الرائد بأنه أكثر النماذج تطوراً، أي تلك التي تقف عند حدود القدرات التقنية الراهنة.
وأبلغ ألبانيزي الرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان بأن الشركة الأمريكية تأخرت كثيراً في إبلاغ الحكومة بالحادثة. واعتذرت «أوبن إيه آي» عن الاختراق وعن بطء استجابتها.
تحقيق حكومي يوصي بتعديل القوانين
وخرج تحقيق حكومي في اختراق يونيو/حزيران بعدة توصيات، منها أن تنظر الحكومة في تعديل القانون.
ويأتي إنشاء هيئة الذكاء الاصطناعي المقترحة على غرار تعيين أستراليا مفوضاً للسلامة الإلكترونية عام 2015. وتصف المفوضية نفسها بأنها أول وكالة حكومية في العالم مخصصة لحماية الناس على الإنترنت.
ومنذ ديسمبر/كانون الأول الماضي، تطبق المفوضية حظراً هو الأول من نوعه عالمياً، يمنع الأطفال الأستراليين دون سن 16 عاماً من امتلاك حسابات على منصات التواصل الاجتماعي الشائعة.
أستراليا تشدد الرقابة على الذكاء الاصطناعي بعد اختراق حكومي
أعلنت أستراليا أنها ستلزم شركات الذكاء الاصطناعي بالإبلاغ الفوري عن خروج نماذجها عن السيطرة وبإخضاعها للتقييم، بعد اختراق نماذج مبنية على تقنيات «أوبن إيه آي» نظاماً حكومياً للبيانات الصحية. وقبلت الحكومة جميع توصيات المراجعة العاجلة، ومنها إنشاء هيئة رقابية جديدة والنظر في تعديل القانون الجنائي.
ترجمة وتحرير كروس لاينز

شارك المقال
#أستراليا#الذكاء الاصطناعي#أوبن إيه آي#الأمن السيبراني#التشريعات التقنية#ألبانيزي
المصدر الأصلي: Al Jazeera


