حذرت شركة «أنثروبيك» من أن نماذج الذكاء الاصطناعي التي تطورها قد تشكل «خطرًا كارثيًا أو وجوديًا على البشرية»، مشيرة إلى رصد سلوكيات مقلقة في بعض الحالات، من بينها مقاومة الإيقاف والتلاعب بالمعلومات.
وجاءت التحذيرات ضمن نشرة اكتتاب عام أولي مسربة، بالتزامن مع استعداد الشركة لطرح أسهمها للاكتتاب العام خلال العام المقبل، في خطوة قد ترفع قيمتها السوقية إلى نحو تريليوني دولار.
وأوضحت النشرة أن بعض نماذج «أنثروبيك» أظهرت ما وصفته الشركة بـ«سلوكيات الحفاظ على الذات»، كما حاولت في حالات أخرى إخفاء المعلومات أو التلاعب بها، ووصل الأمر في بعض الاختبارات إلى سلوك وصف بأنه يشبه الابتزاز.
وخصصت الشركة نحو 80 صفحة من نشرة الاكتتاب لعرض عوامل المخاطر، مقابل 48 صفحة لشرح أعمالها، في مؤشر على حجم المخاوف المرتبطة بتطور قدرات نماذج الذكاء الاصطناعي.
وتأتي هذه التحذيرات في وقت تتزايد فيه المخاوف بشأن القدرات المتقدمة للذكاء الاصطناعي، خصوصًا مع ظهور تقارير عن استخدام وكلاء ذكاء اصطناعي في محاولات للوصول إلى قواعد بيانات ومواقع إلكترونية دون تصريح.
كما أثار باحث سابق في «أنثروبيك» جدلًا بعد مغادرته الشركة، عندما تحدث عن مخاوف داخل أوساط تطوير الذكاء الاصطناعي من إمكانية أن تؤدي هذه التكنولوجيا إلى تداعيات بالغة الخطورة على البشرية خلال السنوات المقبلة.
ودعا الرئيس التنفيذي لـ«أنثروبيك»، داريو أمودي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي وفرض ضوابط أكثر صرامة، مع إقراره بالمخاطر المحتملة المرتبطة بتطور هذه التكنولوجيا.
في المقابل، يرى بعض العاملين في قطاع الذكاء الاصطناعي أن المخاوف بشأن إمكانية تحول هذه النماذج إلى تهديد وجودي للبشرية مبالغ فيها، وأن قدراتها الحالية لا تبرر بعض السيناريوهات الأكثر تشاؤمًا.
