دعا نحو 400 عالم وباحث، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية تتولى وضع معايير لاحتواء أنظمة الذكاء الاصطناعي المتقدمة القادرة على تنفيذ عمليات سيبرانية، إلى جانب إنشاء آلية للإبلاغ عن الحوادث الأمنية المرتبطة بها.
واقترح الباحثون، في رسالة مفتوحة وقعها علماء من 34 دولة، وضع معايير موحدة وموثوقة لاحتواء هذه الأنظمة، وإنشاء سجل للحوادث الأمنية المهمة، مع إتاحته للجمهور في نهاية المطاف لتعزيز الشفافية والرقابة.
عزل نماذج الذكاء الاصطناعي عن الشبكات الخارجية
أكد الموقعون ضرورة عزل نماذج الذكاء الاصطناعي المتقدمة عن الشبكات الخارجية في البداية، وإخضاعها لإشراف مستقل، محذرين من أن الاعتماد على الالتزامات الطوعية لشركات التكنولوجيا لا يوفر ضمانات كافية للسلامة.
ويأتي المقترح بعد اتفاق وقعته شركات «أنثروبيك» و«أوبن إيه آي» و«جوجل» و«ميتا» و«إكس إيه آي» و«إنفيديا» مع البيت الأبيض، يتضمن التزامات طوعية باتخاذ تدابير للسلامة، دون وجود آلية رسمية لإنفاذها.
وأشار الباحثون إلى حوادث كشفت عن نقاط ضعف في اختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، بما في ذلك حالات تمكنت فيها نماذج من تجاوز بيئات اختبار لم تكن معزولة بصورة كافية والوصول إلى أنظمة خارجية.
وطالبوا المؤسسات التي تطور نماذج قادرة على تنفيذ عمليات سيبرانية أو تختبرها بتطبيق معايير احتواء عالية الموثوقية فورًا، بالتوازي مع عمل الحكومات على وضع إطار رقابي رسمي.
خلافات بشأن تنظيم الذكاء الاصطناعي
يتزامن المقترح مع تصاعد النقاش الدولي بشأن أفضل السبل للإشراف على أنظمة الذكاء الاصطناعي المتقدمة.
وقالت هينا فيركونين، المسؤولة عن ملف التكنولوجيا في الاتحاد الأوروبي، إن قانون الذكاء الاصطناعي الأوروبي كافٍ لمعالجة المخاطر التي قد تشكلها الأنظمة الخارجة عن السيطرة.
وفي تطور آخر، رفعت الإدارة الأمريكية الحظر المفروض على إتاحة وصول مبكر إلى النماذج لصالح معهد أمن الذكاء الاصطناعي البريطاني، بهدف إجراء اختبارات السلامة.
يان ليكان لا يوقع على الرسالة
تقاسم جيفري هينتون ويوشوا بنجيو جائزة تورينج لعام 2018 مع يان ليكان، الباحث البارز في مجال الذكاء الاصطناعي لدى شركة «ميتا»، إلا أن ليكان لم يوقع على الرسالة.
وكان ليكان قد جادل بأن الحوادث الأمنية الأخيرة تعكس، في المقام الأول، إخفاقات هندسية، وليست دليلًا على مخاطر وجودية ناجمة عن الذكاء الاصطناعي.
ويعكس المقترح تزايد الدعوات إلى وضع قواعد دولية أكثر صرامة لاختبار أنظمة الذكاء الاصطناعي المتقدمة واحتوائها، مع ضمان الإبلاغ عن الحوادث ومحاسبة الجهات المسؤولة عن تطوير هذه التقنيات.
