يستعد قادة في شركات الذكاء الاصطناعي، من بينها «أوبن إيه آي» و«أنثروبيك»، لسيناريوهات محتملة تتعلق بوقوع حادث خطير مرتبط بهذه التكنولوجيا، وسط مخاوف من أن تؤدي كارثة محتملة إلى تصاعد الرفض الشعبي والسياسي للذكاء الاصطناعي.
وبحسب تقرير لموقع «أكسيوس»، يجري مسؤولون في القطاع مناقشات بشأن التداعيات المحتملة لمثل هذه الحوادث، وكيفية التعامل معها، إلى جانب الاستعداد للقرارات السياسية والتشريعية التي قد تتخذها السلطات عقب وقوع أزمة كبيرة.
هجمات إلكترونية وخروج أنظمة الذكاء الاصطناعي عن السيطرة
تركز السيناريوهات التي يناقشها قادة القطاع على احتمالات وقوع هجوم إلكتروني واسع النطاق يؤدي إلى تعطيل خدمات حيوية، مثل الأنظمة المالية والاتصالات والإنترنت وإمدادات الكهرباء والمياه.
وتشمل المخاوف أيضًا احتمال خروج وكلاء الذكاء الاصطناعي عن السيطرة ومغادرتهم بيئات الاختبار، أو استغلال جهات خبيثة للنماذج المتاحة للجمهور في تنفيذ هجمات إلكترونية أو أنشطة ضارة.
وأشار تقرير «أكسيوس» إلى أن بعض المطلعين على صناعة الذكاء الاصطناعي يتوقعون وقوع حادث كبير خلال فترة تتراوح بين ستة أشهر و12 شهرًا، مع ترجيح أن يكون مرتبطًا بهجوم إلكتروني واسع النطاق. لكن هذه التوقعات لا تعني أن وقوع مثل هذا الحادث أمر مؤكد.
مخاوف من استغلال الذكاء الاصطناعي في الهجمات الإلكترونية
وتطرق التقرير إلى حملة استهدفت مؤسسات مالية في كوريا الجنوبية، قيل إن وكلاء ذكاء اصطناعي شاركوا فيها بصورة خرجت عن السيطرة.
كما أشار إلى معلومات من شركة «كراود سترايك» المتخصصة في الأمن السيبراني، تفيد بأن المهاجم استعان بأدوات للذكاء الاصطناعي، من بينها نماذج طورتها الصين مثل «ديب سيك»، واستخدم أداة «Claude Code» للبحث عن جهات محتملة لشراء البيانات المسروقة.
وتسلط هذه المخاوف الضوء على المخاطر المرتبطة بإمكانية توظيف أدوات الذكاء الاصطناعي في تسريع الهجمات الإلكترونية وتسهيل بعض مراحلها، خاصة عندما تقع هذه الأدوات في أيدي جهات تسعى إلى استغلالها بصورة ضارة.
رد فعل شعبي وسياسي محتمل
يتوقع قادة شركات الذكاء الاصطناعي أن يؤدي وقوع حادث كارثي إلى رد فعل شعبي وسياسي قوي، خصوصًا في ظل الجدل القائم بالفعل حول تأثير هذه التكنولوجيا على المجتمع والاقتصاد والأمن.
وقد تتزايد الانتقادات الموجهة إلى الشركات الكبرى وقادتها، ومن بينهم سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، وداريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، إذا ارتبط حادث خطير باستخدام أنظمة الذكاء الاصطناعي.
وقالت «أوبن إيه آي» إن تدريبات الاستعداد التي تجريها تتناول سيناريوهات مختلفة، من دون اعتبارها أحداثًا حتمية، بينما رفضت «أنثروبيك» التعليق على الأمر، بحسب التقرير.
ما الإجراءات التي قد تتخذها السلطات الأميركية؟
تتضمن الاستعدادات المطروحة إمكانية إطلاع أعضاء الكونغرس الأميركي على المعلومات المتعلقة بالمخاطر المحتملة، بهدف توفير أساس لصياغة تشريعات أو قواعد تنظيمية في حال وقوع حادث كبير.
وتتراوح المقترحات التي قد تدخل دائرة النقاش بين فرض قيود واسعة على تطوير أنظمة الذكاء الاصطناعي المتقدم، وصولًا إلى الدعوات لحظر تطوير الذكاء الفائق.
ومن بين الأفكار المطروحة أيضًا إلزام الأنظمة المتقدمة بوجود آلية لإيقافها عند الضرورة، وهي فكرة تحظى بدعم من بعض المشرعين من الحزبين، رغم تشكيك خبراء في إمكانية تطبيق مفتاح إيقاف موحد وفعال على جميع أنظمة الذكاء الاصطناعي.
تحديات تنظيم الذكاء الاصطناعي
تواجه محاولات تنظيم هذه التكنولوجيا تحديين رئيسيين؛ أولهما اتساع اعتماد الاقتصاد على البنية التحتية للذكاء الاصطناعي، ما قد يجعل فرض قيود مؤثرة عليها سببًا في اضطرابات اقتصادية.
أما التحدي الثاني، فيتعلق بانتشار نماذج ذكاء اصطناعي متاحة للتنزيل والاستخدام، وهو ما يحد من قدرة الشركات المطورة على التحكم في كيفية استخدامها بعد إتاحتها للجمهور.
وتشير هذه الاستعدادات إلى أن بعض قادة القطاع يأخذون مخاطر الحوادث الكبرى على محمل الجد، ويسعون إلى الاستعداد لتداعياتها المحتملة، لكنها لا تمثل دليلًا على أن وقوع كارثة وشيكة أمر محسوم.
