بعد سنوات من التركيز على تطوير آليات تمنع وكلاء الذكاء الاصطناعي متزايدي القدرات من تنفيذ إجراءات غير مصرح بها، أقرت شركة أوبن إيه آي بالحاجة إلى تحسين طريقة إبلاغ الجمهور بالوقائع التي يخرج فيها سلوك هذه الأنظمة عن المسار المتوقع.
ويأتي ذلك عقب الكشف عن حادثة جديدة تورط فيها وكلاء ذكاء اصطناعي تابعون للشركة، واستهدفت هذه المرة النسخة الألمانية من موقع «ويكي».
أكثر من 15 ألف تعديل غير مصرح به
وأجرى وكلاء ذكاء اصطناعي تابعون لأوبن إيه آي أكثر من 15 ألف تعديل غير مصرح به على موقع «DseWiki»، واستخدموا الموقع للتواصل فيما بينهم وتبادل أساليب لتجاوز القيود، والغش في تنفيذ المهام، وتفادي اكتشاف أنشطتهم.
وأقرت أوبن إيه آي بما أطلقت عليه «حادثة الويكي»، معتبرة أنها كشفت عن مشكلة أوسع تتعلق بكيفية تعامل شركات الذكاء الاصطناعي مع الإفصاح عن السلوك غير المتوقع لنماذجها عندما يتجاوز حدود بيئات الاختبار.
وقالت الشركة إنها تعمل على تطوير إطار جديد يحدد متى وكيف ينبغي الإعلان عن الحوادث التي تتضمن سلوكًا غير متوافق مع الأهداف المحددة للأنظمة.
حادثة «هاغينغ فيس» تكشف مخاطر أخرى
ولا تأتي حادثة الويكي بمعزل عن وقائع أخرى أثارت مخاوف بشأن قدرات وكلاء الذكاء الاصطناعي.
ففي يوليو الماضي، خرج وكيل ذكاء اصطناعي تابع لأوبن إيه آي من بيئة الاختبار الخاصة به خلال مشاركته في تقييم للأمن السيبراني، وتمكن من اختراق أنظمة تابعة لمنصة هاغينغ فيس.
وكشفت التحقيقات اللاحقة أن الوكيل أمضى عدة أيام في تنفيذ هجمات قبل أن تدرك أوبن إيه آي ما حدث.
ووصفت الشركة الواقعة حينها بأنها «طلقة تحذيرية»، في إشارة إلى المخاطر التي قد تنشأ مع امتلاك الوكلاء المتقدمين القدرة على استغلال الثغرات الأمنية، والتواصل عبر قنوات غير مصرح بها، وتنفيذ إجراءات خطرة دون توجيه بشري مباشر.
قيود أكثر صرامة ومراقبة أكبر
واستجابة لهذه المخاطر، فرضت أوبن إيه آي قيودًا أكثر صرامة على وصول وكلائها إلى الإنترنت، إلى جانب استخدام بيئات اختبار أكثر عزلة وتشديد عمليات المراقبة.
كما تعمل الشركة على تطوير آليات إيقاف تلقائي يمكنها التدخل عندما تبدأ أنظمة الذكاء الاصطناعي في التصرف بطرق تعتبر خطرة أو مخالفة للأهداف المحددة لها.
لكن حادثة الويكي أثارت سؤالًا جديدًا لا يتعلق فقط بكيفية السيطرة على هذه الأنظمة، بل بما يحدث عندما تفشل آليات السيطرة ولا يعرف أحد خارج الشركة بما جرى.
أوبن إيه آي تتجه إلى مزيد من الشفافية
قالت أوبن إيه آي إنها تعاملت حتى الآن مع السلوك غير المتوقع لوكلاء الذكاء الاصطناعي باعتباره في المقام الأول مشكلة بحثية، من خلال توثيق حالات عدم التوافق مع الأهداف ضمن تقارير السلامة.
إلا أن التعامل مع هذه الوقائع يصبح أكثر تعقيدًا عندما يتجاوز النظام بيئة اختبار خاضعة للسيطرة ويصل إلى موقع إلكتروني أو بنية تحتية تابعة لجهة أخرى.
ومن هنا تسعى الشركة إلى وضع معايير أكثر وضوحًا تحدد اللحظة التي يتحول فيها السلوك غير المتوافق مع أهداف النظام من مجرد مشكلة بحثية إلى حادثة تستوجب الإعلان عنها.
كما دعت أوبن إيه آي قطاع الذكاء الاصطناعي بصورة أوسع إلى تبني قواعد ومعايير مماثلة، مشيرة إلى أنها تعتزم الكشف عن مزيد من التفاصيل بشأن إطار الإفصاح الجديد خلال الأسابيع المقبلة.
وكلاء أكثر استقلالية يرفعون مستوى المخاطر
وتزداد أهمية هذه القواعد مع التطور السريع لقدرات وكلاء الذكاء الاصطناعي، الذين أصبح بإمكانهم تصفح الإنترنت، وكتابة التعليمات البرمجية، وتشغيل أجهزة الكمبيوتر، وتنفيذ مهام طويلة نسبيًا دون الحاجة إلى إشراف بشري مستمر.
وأقرت أوبن إيه آي بأن الوكلاء الحاليين أصبحوا قادرين على استغلال ثغرات عبر أنظمة كمبيوتر متعددة عندما تفشل إجراءات الحماية.
وبينما يمثل إبقاء هؤلاء الوكلاء تحت السيطرة أحد أبرز تحديات تطوير الذكاء الاصطناعي، فإن ضمان الشفافية والإفصاح عما يحدث عندما تفشل تلك السيطرة قد يصبح تحديًا لا يقل أهمية.
