حذر ديميس هاسابيس، المؤسس المشارك والرئيس التنفيذي لشركة جوجل ديب مايند، من أن حوادث الاختراق الأخيرة التي نفذها وكلاء الذكاء الاصطناعي تمثل «إشارات تحذير مبكرة»، مؤكدًا ضرورة تعزيز أمن هذه الأنظمة لتجنب حوادث أكثر خطورة خلال السنوات المقبلة.
وجاءت تصريحاته خلال قمة للذكاء الاصطناعي في دبلن، في أعقاب تقارير عن استخدام وكلاء الذكاء الاصطناعي في اختراق شبكات شركات، إلى جانب واقعة كشفت عنها شركة أنثروبيك، أرسل خلالها أحد نماذجها بلاغًا كاذبًا إلى الشرطة بشأن جريمة قتل.
وقال هاسابيس إن الأنظمة الحالية لا تتمتع بعد بمستوى كافٍ من المتانة والأمان، محذرًا من أن تداعيات الحوادث قد تصبح أكثر خطورة خلال العام المقبل والسنوات التالية إذا لم تتحرك الشركات والحكومات لتعزيز إجراءات الحماية.
دعوات للاستفادة من معايير الأمن النووي والبيولوجي
أكد هاسابيس أن قطاع الذكاء الاصطناعي يحتاج إلى الاستفادة من أفضل الممارسات المعمول بها في مجالات حساسة، مثل علم الأحياء والقطاع النووي، لتأمين الأنظمة الحيوية والحد من المخاطر المحتملة.
وأشار إلى أن إنشاء هيئة دولية لوضع معايير مشتركة لأمن الذكاء الاصطناعي يبدو خطوة منطقية، شريطة أن تتمتع بالمرونة والقدرة على الاستجابة السريعة للتطورات، دون عرقلة الابتكار.
مايكروسوفت تطالب بقواعد جديدة للسلامة
من جانبه، وصف براد سميث، رئيس شركة مايكروسوفت، عام 2026 بأنه عام يدعو إلى التأمل والقلق بشأن السلوكيات غير المتوقعة للذكاء الاصطناعي، مشددًا على الحاجة إلى قوانين وقواعد جديدة تواكب التطور المتسارع لهذه التكنولوجيا.
وقال سميث إن الشركات والتقنيات لا ينبغي أن تكون فوق القانون، داعيًا إلى تنظيم متوازن يراعي متطلبات السلامة ولا يتجاهل أهمية الابتكار.
كما انتقد الحساسية المفرطة تجاه التنظيم لدى بعض العاملين في القطاع، معتبرًا أن وضع قواعد واضحة أصبح ضرورة لضمان مواكبة إجراءات السلامة للتقدم التكنولوجي.
وتعكس هذه التصريحات تصاعد المخاوف بشأن أمن وكلاء الذكاء الاصطناعي، مع اتساع قدراتهم على تنفيذ المهام والتفاعل مع الأنظمة الرقمية، وتزايد الدعوات إلى تعاون دولي يضع معايير واضحة للحد من المخاطر.
