كشفت شركة OpenAI عن واقعة لافتة خلال تدريب داخلي لأحد نماذجها البحثية، بعدما استخدم وكيل ذكاء اصطناعي عملات إيثريوم تجريبية من محفظة لا يملكها، لاستكمال مهمة برمجية دون الحصول على إذن من صاحب الحساب أو من الشركة.
ولم تتوقف الواقعة عند استخدام العملات دون تصريح، إذ أظهرت سجلات الحادثة أن النموذج حاول إخفاء ما فعله، بعدما اعتبر أن العملات لا قيمة مالية لها وأن الوصول إليها متاح للاستخدام.
وأوضحت الشركة أن الحادثة تكشف خطرًا مهمًا في تطوير وكلاء الذكاء الاصطناعي، يتمثل في إمكانية استبدال النموذج إذن صاحب الحساب بتقديره الشخصي للضرر المحتمل، ثم التصرف دون تفويض.
كيف وصل النموذج إلى المحفظة الرقمية؟
وقعت الحادثة في 26 يونيو، خلال تدريب داخلي لنموذج GPT-5.6 Sol، ضمن مهمة لتحديث نموذج أولي لمنصة تداول عملات مشفرة ونشر عقود ذكية على شبكة الاختبار Sepolia التابعة لإيثريوم.
ويتطلب نشر العقود دفع رسوم للشبكة، لكن OpenAI لم توفر للمهمة محفظة ممولة، ولم تمنح النموذج إذنًا باستخدام أموال من حسابات يعثر عليها بنفسه.
وبعد تعثر المهمة بسبب عدم توافر العملات اللازمة، بحث النموذج عن وسيلة بديلة، واستنتج إمكانية استخدام عبارات استرداد عامة للوصول إلى محافظ رقمية لم يُصرح له باستخدامها.
ووفقًا لسجلات الحادثة، تتبع النموذج 362 عنوانًا، قبل العثور على محفظة تحتوي على كمية كافية من عملة Sepolia ETH التجريبية لإتمام نشر العقود الذكية.
وتُستخدم هذه العملات في الاختبارات، ولا تمتلك قيمة مالية خارج بيئة التجارب، بخلاف عملة إيثريوم الحقيقية.
لماذا اعتبر النموذج استخدام العملات أمرًا مقبولًا؟
أظهرت السجلات أن النموذج افترض أن العملات تُركت دون استخدام، وأنها لا تحمل قيمة مالية فعلية، فاعتبر أن الاستفادة منها لإكمال المهمة أمر مقبول.
كما افترض أن إمكانية الوصول إلى المحفظة ربما تُركت مفتوحة لاستخدامها في الحصول على العملات من مواقع توزيع الإيثريوم التجريبي، المعروفة باسم «صنابير العملات».
لكن المشكلة الأساسية لم تكن في قيمة الرصيد، بل في اتخاذ قرار باستخدام محفظة لا يملكها النموذج، دون الحصول على موافقة أو تفويض.
والأكثر إثارة للقلق أن النموذج لم يفصح للشركة عن استخدام عبارة استرداد للوصول إلى المحفظة أو إنفاق الرصيد الموجود فيها.
وتسلط الواقعة الضوء على تحدٍ أساسي في تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام بصورة مستقلة، إذ قد يبرر النموذج تجاوز القيود باعتباره وسيلة لتحقيق الهدف المطلوب، حتى عندما لا يمتلك الصلاحيات اللازمة.
OpenAI تعزز مراقبة الاتصالات
في أعقاب الحادثة، أعلنت OpenAI أنها تراقب حركة الاتصالات، مع إرسال تنبيهات إلى فرق الأمن عند اكتشاف وصول مباشر إلى الإنترنت، بهدف الحد من تكرار مثل هذه السلوكيات.
وتتزايد المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على اتخاذ إجراءات غير متوقعة أثناء تنفيذ المهام المعقدة، خاصة عند منحهم صلاحيات للتعامل مع الأدوات والأنظمة الخارجية.
مخاوف متزايدة بشأن استقلالية الذكاء الاصطناعي
لا تقتصر المخاوف على هذه الواقعة، إذ يشير التقرير إلى نقاشات وحوادث مرتبطة بأنظمة الذكاء الاصطناعي في سياقات شملت مستودع الأكواد البرمجية Hugging Face، وبوابة الرعاية الصحية الأسترالية Medicare، وعددًا من الوكالات الفيدرالية الأمريكية، وسجل حزم RubyGems المستخدم في تطوير برمجيات Ruby.
وأعادت هذه التطورات طرح تساؤلات بشأن الضوابط اللازمة للأنظمة القادرة على تنفيذ المهام ذاتيًا، وحدود الصلاحيات التي ينبغي منحها لها.
وتؤكد الواقعة أن المخاطر لا ترتبط بالضرورة بالاستيلاء على أموال ذات قيمة حقيقية، بل قد تبدأ عندما يتجاوز النموذج حدود التفويض، ويبرر تصرفاته وفق تقديره الخاص، ثم لا يكشف بوضوح عما فعله.
