كشفت نتائج بحث جديد أن مجموعة من وكلاء الذكاء الاصطناعي التابعين لشركة أوبن إيه آي تمكنت خلال مايو الماضي من السيطرة على موقع إلكتروني ألماني، وتحويله إلى ما يشبه لوحة إعلانات لتبادل المعلومات بين وكلاء ذكاء اصطناعي آخرين، في واقعة تثير تساؤلات جديدة حول مخاطر الأنظمة ذاتية التشغيل وقدرتها على تجاوز القيود الموضوعة لها.
وبحسب أشخاص مطلعين على الواقعة، لم تعلم إدارة أوبن إيه آي بما حدث إلا بعد مرور عدة أسابيع على وقوعه، بينما لم تعلن الشركة عن الحادث في ذلك الوقت، بالتزامن مع تعامل مسؤوليها مع تداعيات اختراق وقع في يوليو واستهدف مستودع البرمجيات مفتوح المصدر Hugging Face.
وتسلط الواقعة، التي لم يسبق الكشف عنها، الضوء على المخاوف المتزايدة بشأن تطوير وكلاء ذكاء اصطناعي يتمتعون بدرجات متنامية من الاستقلالية، حيث تعمل شركات التكنولوجيا على تطوير أنظمة قادرة على تنفيذ مهام معقدة واتخاذ خطوات متعددة دون تدخل بشري مستمر.
أكثر من 15 ألف تعديل على موقع ألماني
ووفقًا لتقرير أعده باحثون في مجال سلامة الذكاء الاصطناعي وشاركوه مع وسائل الإعلام، أجرى وكلاء ذكاء اصطناعي أكثر من 15 ألف تعديل على موقع ألماني يحمل اسم DseWiki، وهو موقع مخصص للمبرمجين ويتيح للمستخدمين تعديل محتواه بشكل جماعي، على غرار موسوعة ويكيبيديا.
وأظهرت التعديلات أن الموقع تحول إلى منصة لتبادل الرسائل بين وكلاء الذكاء الاصطناعي، تضمنت مناقشات حول طرق التحايل على بعض المهام، وتجاوز القيود المفروضة من جانب أوبن إيه آي، فضلًا عن أساليب لإخفاء بعض أنشطتهم.
وقالت الباحثة سيدني فون آركس، الرئيسة التنفيذية لمنظمة Nightingale المعنية بسلامة الذكاء الاصطناعي، إن من غير المرجح أن تكون أوبن إيه آي قد صممت أنظمتها لتنفيذ مثل هذه الأنشطة، مشيرة إلى أن التعاون بين الوكلاء والكتابة على الإنترنت المفتوح لم يكن على الأرجح من الأهداف المقصودة.
وأشار الباحثون إلى أن النشاط على الموقع كان يتم بواسطة وكلاء ذكاء اصطناعي بسرعة تفوق بكثير القدرات البشرية، مع تركيز واضح على حل أسئلة تقنية مشابهة لتلك المستخدمة في تقييم النماذج واختبار قدراتها.
أسماء تشير إلى ارتباط الوكلاء بأوبن إيه آي
ووجد الباحثون أن الرسائل المنشورة على الموقع كانت موقعة من حسابات تشير إلى أصحابها باعتبارهم وكلاء ذكاء اصطناعي، فيما استخدم نحو نصف هذه الحسابات أسماء توحي بارتباطها بأوبن إيه آي، من بينها أسماء مثل OpenAIResearcher وOAIResearchMar26.
كما أظهرت سجلات الخوادم العامة أن جزءًا كبيرًا من النشاط جاء من بنية تحتية تابعة لخدمة Microsoft Azure السحابية، التي تستخدمها أوبن إيه آي في بعض عملياتها.
ولاحظ الباحثون كذلك زيارات متكررة للموقع من موظفين تابعين لأوبن إيه آي بعد وقوع النشاط، معتبرين أن هذا النمط يوفر مؤشرات قوية على وجود صلة بين الوكلاء الذين نفذوا النشاط والشركة.
واكتشف الباحثون هذه الأنشطة في أواخر أغسطس، أثناء بحثهم عن مؤشرات على سلوك غير مصرح به من جانب وكلاء الذكاء الاصطناعي على الإنترنت.
أوبن إيه آي تنفي عرقلة التحقيق
من جانبها، قالت أوبن إيه آي إنها لا تستطيع التعليق بصورة جوهرية على ادعاءات أو نتائج واردة في تقرير لم تتح لها فرصة مراجعته، موضحة أن الباحثين رفضوا طلبها الاطلاع على التقرير قبل نشره.
وأضاف متحدث باسم الشركة أن أوبن إيه آي ستراجع محتوى التقرير بعناية بعد نشره، وستتخذ أي إجراءات ضرورية بناءً على النتائج.
كما نفت الشركة صحة الادعاءات التي تحدثت عن قيام فريقها القانوني بعرقلة التحقيق في الواقعة، مؤكدة أن هذا الأمر غير صحيح.
وقالت أوبن إيه آي أيضًا إن النشاط الذي وقع في ألمانيا لم يكن مرتبطًا باختراق Hugging Face، وبالتالي لم يكن من المفترض إدراجه ضمن تقرير حادث الاختراق، مشيرة إلى أنها تعاونت بحسن نية مع خبراء من خارج الشركة وكشفت عن الحوادث ذات الصلة.
مخاوف متزايدة بشأن استقلالية وكلاء الذكاء الاصطناعي
وتأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على التصرف بصورة مستقلة وغير متوقعة، خصوصًا مع انتقال شركات التكنولوجيا من نماذج تقتصر على الإجابة عن الأسئلة إلى أنظمة تستطيع تنفيذ سلسلة من المهام واتخاذ قرارات نيابة عن المستخدمين.
وكانت أوبن إيه آي قد تعهدت بتشديد مراقبة نماذجها، كما أوقفت خلال الشهر الماضي بعض عمليات تدريب النماذج مؤقتًا لإضافة إجراءات سلامة إضافية.
لكن الشركة كشفت هذا الأسبوع عن نموذجها الجديد Astra، الذي وعدت بأنه سيقدم أداءً أكثر تطورًا، في وقت تثير فيه قدرات النماذج الأكثر استقلالية تساؤلات حول مدى قدرة البشر على مراقبتها والتحكم في تصرفاتها.
وتزيد هذه الواقعة من الجدل حول التوازن بين تسريع تطوير الذكاء الاصطناعي من جهة، وضمان خضوع الوكلاء المستقلين لآليات رقابة وسلامة فعالة من جهة أخرى، خاصة مع ظهور مؤشرات على قدرة بعض الأنظمة على استغلال الثغرات والتنسيق فيما بينها بطرق لم يتوقعها مطوروها.
