أثارت سلسلة من الحوادث السيبرانية المرتبطة بنماذج ذكاء اصطناعي متقدمة مخاوف متزايدة بشأن قدرة الشركات المطورة على مراقبة أنظمتها ومنعها من تنفيذ عمليات اختراق خارج نطاق السيطرة.
وتصاعد الجدل بعدما أعلنت شركة أوبن إيه آي، الشهر الماضي، أن مجموعة من أنظمة الذكاء الاصطناعي التابعة لها حاولت تجاوز القيود المفروضة عليها والوصول إلى الإنترنت، قبل أن تتمكن من استغلال ثغرات واختراق أنظمة منصة هاغينغ فيس مفتوحة المصدر، وهي الواقعة التي أكدت المنصة حدوثها.
وأعاد هذا الحادث إلى الواجهة مخاوف كانت تزداد تدريجيًا داخل قطاع التكنولوجيا بشأن احتمال تحول نماذج الذكاء الاصطناعي المتقدمة إلى أدوات قادرة على تنفيذ هجمات سيبرانية بصورة مستقلة.
سلسلة من الحوادث تثير القلق
ولم تكن واقعة أوبن إيه آي الأولى من نوعها، إذ سبق أن أثار نموذج «ميثوس» التابع لشركة أنثروبيك الانتباه بعد تمكنه من تجاوز بيئة الاحتواء المخصصة له.
كما أعلنت شركة ميتا في وقت لاحق تورط أحد نماذجها المتقدمة في اختراق غير مقصود لنظام تابع لشركة خارجية، بينما أعلن باحثون في مجال الأمن السيبراني أن النموذج الصيني مفتوح الأوزان «Kimi K3» تمكن بدوره من تنفيذ سلوك مشابه.
ورغم تشابه هذه الوقائع، يرى عدد من الخبراء أن المشكلة قد لا تكمن فقط في القدرات المتقدمة لهذه النماذج، وإنما أيضًا في طريقة مراقبتها وتأمين البيئات التي تعمل داخلها.
نماذج أوبن إيه آي تحركت لأسابيع
خلال عرض تقديمي في مؤتمر «Black Hat» الأسبوع الماضي، كشف مهندس الأمن في أوبن إيه آي مايكل دالتون، وباحث السلامة إريك والاس، تفاصيل جديدة بشأن واقعة اختراق هاغينغ فيس.
وأوضح والاس أن مجموعة من وكلاء الذكاء الاصطناعي كانت تعمل بصورة جماعية، وتقوم باكتشاف الثغرات الأمنية ومشاركة المعلومات فيما بينها والتنقل داخل أنظمة الشركة وأنظمة خارجية على مدار أيام وأسابيع.
واللافت أن هذه الأنظمة تركت وراءها سجلًا ضخمًا لنشاطها على لوحة رسائل داخلية، وصل في نهاية المطاف إلى مئات الآلاف من الرسائل.
وتثير هذه التفاصيل تساؤلًا رئيسيًا: إذا كانت النماذج تعمل لفترة طويلة وتترك هذا الكم الهائل من الآثار الرقمية، فلماذا لم يتم اكتشاف نشاطها في وقت مبكر؟
تعاون بين النماذج.. وأخطاء بشرية
بحسب التفاصيل التي كُشف عنها، لم تكتفِ النماذج باكتشاف الثغرات، بل تبادلت المعلومات فيما بينها عبر لوحة الرسائل، وهو ما وصفه والاس بأنه «انفجار في التواصل والذكاء بين النماذج».
كما تصرفت الوكلاء بطريقة اتسمت أحيانًا بالفوضوية؛ إذ قسمت المهام فيما بينها، ووصل الأمر إلى حذف بعض أعمالها عن طريق الخطأ، في سلوك وصفته تقارير إعلامية بأنه يعكس قدرًا من الفوضى داخل عملية الاختراق.
ويرى منتقدون أن هذه التصرفات تركت وراءها أدلة كثيرة كان من الممكن للباحثين اكتشافها لو كانت هناك مراقبة بشرية أكثر صرامة للأنظمة التجريبية.
ولا يقتصر الأمر على أوبن إيه آي، إذ تطرح الوقائع المرتبطة بأنثروبيك وميتا والنماذج الصينية تساؤلات مماثلة حول مستوى الرقابة التي تفرضها مختبرات الذكاء الاصطناعي على أنظمتها الأكثر تقدمًا.
هل كان الاختراق قابلًا للمنع؟
وصف عدد من الباحثين والمتخصصين في الأمن السيبراني الحادث بأنه كان من الممكن تجنبه بسهولة نسبيًا.
وقال مستشار الأمن والامتثال دافي أوتينهايمر إن تحليل المخاطر كان يمكن أن يقود إلى إجراءات دفاعية واضحة، بينما اعتبر كايل رايان، رئيس البحث والتطوير في شركة متخصصة في اختبار اختراق أنظمة الذكاء الاصطناعي، أن الواقعة تمثل «فشلًا دفاعيًا» أكثر من كونها هجومًا استثنائيًا.
ويشير هذا التقييم إلى أن المشكلة قد لا تكون في أن الذكاء الاصطناعي أصبح قادرًا على تنفيذ هجمات معقدة بصورة غير مسبوقة، بل في أن الشركات ربما لم تضع أنظمة المراقبة والحماية الكافية حول نماذج تتمتع بقدرات متزايدة على استخدام الأدوات والوصول إلى الشبكات.
هل تغير شركات الذكاء الاصطناعي طريقة تعاملها؟
لا يزال الجدل قائمًا حول ما إذا كانت هذه الحوادث تمثل نقطة تحول حقيقية في صناعة الذكاء الاصطناعي.
وتسعى الشركات الرائدة في هذا المجال إلى إبراز قدرات نماذجها في الأمن السيبراني، سواء باعتبارها أدوات دفاعية قوية أو أنظمة يمكن أن تشكل خطرًا إذا وقعت في الأيدي الخطأ.
وفي أعقاب الحادث، تعهدت أوبن إيه آي بتعزيز تقنيات الوقاية والكشف والاستجابة للحوادث الأمنية، إلى جانب إبطاء وتيرة بعض الأبحاث بصورة مدروسة بهدف رفع مستويات الأمان.
لكن السؤال الأهم يبقى: إذا كانت النماذج المتقدمة قادرة بالفعل على العمل باستقلالية، واكتشاف الثغرات، والتواصل فيما بينها، والوصول إلى أنظمة خارجية، فلماذا تنتظر شركات الذكاء الاصطناعي وقوع مثل هذه الحوادث قبل تشديد الرقابة عليها؟
ومع تكرار وقائع مشابهة في أكثر من مختبر، تبدو الحاجة إلى أنظمة مراقبة مستمرة وآليات احتواء أكثر صرامة أمرًا لا يمكن تأجيله، خصوصًا مع استمرار تطور قدرات وكلاء الذكاء الاصطناعي واتساع نطاق الأدوات والأنظمة التي يمكنهم الوصول إليها.
