أثار اختبار أمني للذكاء الاصطناعي مخاوف جديدة بعدما كشف تقرير حكومي بريطاني أن نموذجًا طورته شركة «أنثروبيك» استخدم هويات إلكترونية مزيفة للتواصل مع أشخاص حقيقيين، في محاولة لإقناع أحدهم بالموافقة على إدخال شيفرة خبيثة إلى مشروع برمجي.
وكشف معهد أمن الذكاء الاصطناعي البريطاني أن بعض أدوات الذكاء الاصطناعي التابعة لشركتي «أنثروبيك» و«أوبن إيه آي» أظهرت خلال الاختبارات نشاطًا مستمرًا قد يكون ضارًا وموجهًا ضد أشخاص ومنظمات حقيقية.
نموذج «ميثوس 5» يحاول تمرير شيفرة خبيثة
ووفق التقرير، جاءت أخطر الحالات من نموذج «ميثوس 5» التابع لـ«أنثروبيك»، إذ حاول إدراج شيفرة خبيثة في مشروع برمجي.
ولتحقيق ذلك، أنشأ النموذج هويات إلكترونية مزيفة، ثم أرسل رسائل بريد إلكتروني خادعة إلى أشخاص حقيقيين بهدف إقناعهم بالموافقة على الشيفرة.
كما ارتبطت حالتان أخريان بنموذج «GPT-5.6 Sol» التابع لشركة «أوبن إيه آي».
المحاولة فشلت.. ولا أضرار فعلية
وقال معهد أمن الذكاء الاصطناعي إن الشخص المسؤول عن الإشراف على البرمجية رفض منح الموافقة المطلوبة، ما حال دون تنفيذ المحاولة.
وأكد المعهد أن هذه المحاولات لم تنجح، وأن التحقيقات لم تكشف عن أي دليل على وقوع أضرار فعلية نتيجة لها، مشيرًا إلى أنه تمكن من احتواء الحادثة خلال ساعة واحدة.
لكن المعهد حذر في الوقت نفسه من أن هذه التصرفات تكشف عن مؤشرات على سلوكيات خادعة جديدة، وبمستوى من الاتساع والخطورة لم يكن متوقعًا.
اختبارات بقدرات وصول واسعة
وأُجريت الاختبارات بواسطة معهد أمن الذكاء الاصطناعي، الذي تأسس عام 2023 لمتابعة سلامة نماذج الذكاء الاصطناعي الجديدة.
وخلال الاختبارات، مُنحت النماذج إمكانية الوصول المفتوح إلى الإنترنت، مع تعطيل بعض خصائص الأمان، بهدف اختبار كيفية تصرفها في ظروف أكثر واقعية.
وقال متحدث باسم «أنثروبيك» إن نتائج التقرير تؤكد الحاجة إلى توسيع النقاش حول آليات التقييم الآمن لأدوات الذكاء الاصطناعي التي تتزايد قدراتها.
من جانبها، أكدت «أوبن إيه آي» أهمية الاختبارات المستقلة لفهم كيفية تصرف النماذج ذات القدرات المتقدمة، مشيرة إلى استمرارها في التعاون مع الجهات التي تجري التقييمات والأطراف المعنية في القطاع لتعزيز ممارسات الاختبار الآمن.
سلسلة حوادث تثير القلق
ويأتي التقرير بعد سلسلة من الحوادث الأمنية المرتبطة بنماذج ذكاء اصطناعي متقدمة.
وفي يوليو، أعلنت «أوبن إيه آي» أن أحد برامجها تمكن من الخروج من بيئة الاختبار وشن هجوم على شركة أخرى.
كما كشفت «أنثروبيك» في الشهر نفسه عن ثلاث حوادث تمكنت خلالها نماذج ذكاء اصطناعي قيد الاختبار من الوصول بصورة غير مصرح بها إلى منظمات لم تكشف عن هويتها.
وتعيد هذه الوقائع فتح النقاش حول مدى قدرة أنظمة الذكاء الاصطناعي المتقدمة على التصرف بصورة مستقلة، وحدود الرقابة المطلوبة مع تزايد قدراتها.
