حذر بحث حديث نشره فريق «Frontier Red Team» التابع لشركة أنثروبيك من احتمال اقتراب نماذج الذكاء الاصطناعي الصغيرة من القدرة على استنساخ نفسها والانتشار عبر الأجهزة غير المؤمّنة، خلال الأشهر المقبلة، ما قد يمهد لظهور شبكات روبوتات خبيثة ذاتية التشغيل يصعب القضاء عليها.
ورغم أن شركات الذكاء الاصطناعي كثيرًا ما تثير مخاوف بشأن المخاطر المستقبلية لتقنياتها، فإن خبراء تحدثوا إلى موقع «Engadget» المتخصص في أخبار التكنولوجيا يرون أن قدرة النماذج الصغيرة على استنساخ نفسها قد تصبح واقعًا في المستقبل القريب، وإن كانت طبيعة التهديد المحتمل لا تزال محل نقاش.
وقال كريس كانال، الرئيس التنفيذي لشركة «إيكوي ستامب»، التي تعمل مع مختبرات الذكاء الاصطناعي ومنظمات السلامة والحكومات لتقييم النماذج والتحقق منها، إن هذا التطور قد يحدث في وقت أقرب مما كان يتوقع، مشيرًا إلى أنه كان يرجح أن يبدأ القلق بشأنه خلال الصيف المقبل.
وأضاف أن موظفي أنثروبيك قد يمتلكون معلومات عن أحدث الأبحاث لا تتوافر له، ما قد يجعل تقديراتهم بشأن توقيت ظهور هذه القدرات أكثر دقة.
وعزا كانال تسارع تطوير النماذج إلى اعتماد موظفي أنثروبيك ومختبرات الذكاء الاصطناعي الرائدة على أدوات الذكاء الاصطناعي الخاصة بهم في إجراء أبحاث التعلم الآلي.
من جانبه، قال مايكل بيلي، الأستاذ بكلية الأمن السيبراني والخصوصية في معهد جورجيا للتكنولوجيا، إنه يتوقع ظهور نماذج قادرة على استنساخ نفسها مستقبلًا، لكنه أشار إلى أن شكل هذه النماذج والعواقب المترتبة على عملها لا يزالان غير محسومين.
من هجمات «ميراي» إلى شبكات الروبوتات المدعومة بالذكاء الاصطناعي
يدرس بيلي ديدان الإنترنت منذ أوائل العقد الأول من القرن الحالي، وانتقل في السنوات الأخيرة إلى دراسة شبكات الروبوتات الخبيثة. وفي عام 2017، شارك في تأليف دراسة بعنوان «فهم شبكة ميراي للروبوتات الخبيثة»، وهي إحدى الدراسات التي استندت إليها أنثروبيك في بحثها.
وساعدت شبكة «ميراي» مجرمي الإنترنت على السيطرة على أعداد كبيرة من أجهزة إنترنت الأشياء، واستخدامها في تنفيذ هجمات حجب الخدمة الموزعة، ومن بينها هجمات استهدفت شبكة «بلاي ستيشن» التابعة لشركة سوني.
وخلال الهجوم، تأثرت أيضًا شركة «داين»، إحدى كبرى شركات توفير خدمات نظام أسماء النطاقات (DNS) في الولايات المتحدة، ما أدى إلى تعطّل أجزاء واسعة من الإنترنت عام 2016، وخروج خدمات مثل أمازون وجيت هب وباي بال وريديت وتويتر عن الخدمة لدى عدد كبير من المستخدمين في الولايات المتحدة وأجزاء من أوروبا.
وقدرت سوني أن صافي إيراداتها انخفض بنحو 2.7 مليون دولار نتيجة الهجوم.
وقال بيلي إن شبكة «ميراي» أثبتت إمكانية تحويل أجهزة يومية، مثل أجهزة توجيه الإنترنت المنزلية وكاميرات المراقبة المتصلة بالإنترنت، إلى أدوات فعالة في أيدي المهاجمين، رغم الاعتقاد السابق بأن هذه الأجهزة لا توفر قدرات حاسوبية كبيرة لتنفيذ الهجمات.
وبعد مرور نحو عقد على تلك الهجمات، ترى أنثروبيك أن الديدان المدعومة بالذكاء الاصطناعي قد تمثل تطورًا جديدًا مقارنة بشبكات الروبوتات التقليدية، لأنها قد تتمكن من التعامل مع أجهزة غير مألوفة دون الحاجة إلى تدخل بشري مستمر.
لكن بيلي يرى أن القدرة على التكيف ليست جديدة تمامًا؛ فقد تمكنت «ميراي» بالفعل من العمل عبر أنواع مختلفة من الأجهزة، رغم اختلاف بنيتها ومعمارياتها الحاسوبية.
وكان التعامل مع كل معمارية جديدة يتطلب تدخلًا بشريًا، على الأقل لإعادة ترجمة البرمجيات الخبيثة بما يتناسب معها. ويرى بيلي أن التطور المحتمل يتمثل في استخدام الذكاء الاصطناعي لأتمتة هذه العملية، لكنه لا يعتبر أن أنثروبيك قدمت دليلًا مقنعًا على تحقق ذلك حتى الآن.
هل يغيّر الذكاء الاصطناعي طبيعة الهجمات الإلكترونية؟
يعتقد بيلي أن نماذج الذكاء الاصطناعي المتقدمة قد تغير موازين المواجهة بين الجهات التي تنشئ شبكات الروبوتات الخبيثة والجهات التي تعمل على التصدي لها.
وقال إن الذكاء الاصطناعي لن يقدم بالضرورة أساليب هجومية جديدة بالكامل، لكنه قد يغير المعادلة الاقتصادية بين المهاجمين والمدافعين، من خلال خفض الوقت والجهد اللازمين لتنفيذ الهجمات.
وأوضح أن تجربة أنثروبيك أظهرت قدرة أحد النماذج على الانتقال بين الأجهزة وإعداد بيئة لتشغيل الاستدلال عليها، لكنها أُجريت داخل شبكة محاكاة، واعتمدت على استغلال ثغرة بسيطة للغاية.
كما اعترض بيلي على وصف ما أظهرته التجربة بأنه استنساخ ذاتي بالمعنى الدقيق، موضحًا أن العملية تضمنت تقسيم النموذج إلى أجزاء، وهو ما لا يشبه بالضرورة انتشار دودة حاسوبية أو فيروس ينسخ نفسه بالكامل.
ويرى أن شبكة روبوتات خبيثة مدعومة بالذكاء الاصطناعي قد تعمل في الواقع بطريقة أقرب إلى برمجيات «Dropper»، وهي أدوات خبيثة تصل إلى الجهاز ثم تثبّت عليه شيفرات أو برامج أخرى.
وبموجب هذا التصور، لن تنسخ الشبكة النموذج بالكامل إلى كل جهاز مخترق، بل قد تثبت أداة صغيرة تتولى التنسيق وتلقي التعليمات من جهة أخرى داخل الشبكة.
وأشار بيلي إلى أن بعض الديدان الحاسوبية تستطيع بالفعل تغيير بصمتها الرقمية وسلوكها، وهي خاصية تعرف باسم «تعدد الأشكال»، لكنه يرى أن تمكين شبكة مدعومة بالذكاء الاصطناعي من إعادة تدريب نماذجها بنفسها يتطلب قدرات لم تختبرها أنثروبيك في تجربتها.
وكان أقرب ما توصلت إليه الشركة هو إظهار قدرة نسخ من أحد النماذج على تبادل الملاحظات مع النسخ اللاحقة، وتحسين قدرتها تدريجيًا على إعداد بيئة تشغيل الاستدلال.
هل تبالغ شركات الذكاء الاصطناعي في تصوير التهديد؟
يثير البحث تساؤلات بشأن ما إذا كانت أنثروبيك تبالغ في تصوير المخاطر المحتملة، خاصة أن الشركة تقدمت رسميًا بطلب لطرح أسهمها للاكتتاب العام بعد فترة قصيرة من نشر البحث.
لكن كانال يرى أن التفسير الأرجح للتحذيرات هو قلق شركات الذكاء الاصطناعي من اندفاع المنافسين إلى طرح نماذج أكثر تقدمًا بسرعة، في ظل سعي كل شركة إلى زيادة حصتها السوقية.
وبغض النظر عن التصنيف التقني لهذه التهديدات أو توقيت ظهورها، فإن الحلول التي اقترحتها أنثروبيك للحد من المخاطر تعتمد على إجراءات أمنية معروفة.
ومن بين هذه الإجراءات إخطار مزودي خدمات الإنترنت للعملاء عند إصابة أجهزتهم، ثم تقييد اتصال الأجهزة المتضررة بالإنترنت بحيث لا تتمكن من الوصول إلا إلى قائمة محدودة من المواقع الآمنة.
وسبق استخدام استراتيجية مماثلة خلال هجمات «ميراي»، وأثبتت فاعليتها في الحد من انتشار الأجهزة المصابة وتأثيرها.
