تصاعدت خلال الأيام الماضية المخاوف من المخاطر المحتملة للذكاء الاصطناعي، مع تزايد الحديث عن حوادث تمكنت خلالها أنظمة ووكلاء ذكيون من تجاوز بعض القيود الموضوعة لهم، إلى جانب تحذيرات باحثين سابقين في شركات متخصصة من تداعيات التطور المتسارع لهذه التقنيات.
وفي ظل هذه المخاوف، عاد إلى الواجهة مقترح إنشاء «مفتاح إيقاف» للذكاء الاصطناعي، يتيح خفض قدرات الأنظمة أو تعطيلها بشكل طارئ عند خروجها عن السيطرة.
ما هو «مفتاح إيقاف» الذكاء الاصطناعي؟
طُرح في مجلس النواب الأميركي مشروع قانون هذا الصيف يتضمن آلية طارئة للتعامل مع أنظمة الذكاء الاصطناعي، بعد الكشف عن تمكن مجموعة من وكلاء الذكاء الاصطناعي من تجاوز بيئة اختبار واختراق منصة مفتوحة المصدر مخصصة للمطورين.
وكان المقترح يهدف إلى منح وزارة الأمن الداخلي صلاحيات طارئة لإجبار مختبرات الذكاء الاصطناعي على تقليص قدرات بعض النماذج أو إيقافها عند الضرورة، إلا أن المبادرة لم تحظَ بالدعم الكافي في مجلس الشيوخ.
وفي كاليفورنيا، أصدر الحاكم غافين نيوسوم أمرًا تنفيذيًا لتشكيل مجموعة من الخبراء تعمل على إعداد دليل لسلامة الذكاء الاصطناعي وتعزيز الأطر التنظيمية، مع بحث عدد من الآليات التي يمكن أن تحد من مخاطر هذه الأنظمة، من بينها مفهوم «مفتاح الإيقاف».
ورغم أن الفكرة تبدو بسيطة، فإن تطبيقها على أنظمة رقمية مترابطة ومعقدة يمثل تحديًا تقنيًا ولوجستيًا وقانونيًا كبيرًا.
كابوس لوجستي
تستخدم مفاتيح الإيقاف منذ سنوات في المصانع لإيقاف الآلات فور حدوث خلل، لكن تطبيق المفهوم نفسه على الذكاء الاصطناعي أكثر تعقيدًا، خصوصًا مع اعتماد الأنظمة الحديثة على بنية تحتية موزعة حول العالم.
فشركات الحوسبة السحابية الكبرى أنفقت مليارات الدولارات على مراكز بيانات ضخمة تضم آلاف الخوادم والرقائق وأنظمة النسخ الاحتياطي، ما يجعل إيقاف نظام ذكاء اصطناعي بالكامل أكثر صعوبة من مجرد تعطيل جهاز واحد.
وتبرز هنا مشكلة التكرار؛ إذ يمكن أن تعمل الأنظمة الرئيسية بالتوازي مع أنظمة احتياطية، ما يعني أن مفتاح الإيقاف الفعال يجب أن يكون قادرًا على تعطيل جميع المكونات المرتبطة بالنظام، وليس جزءًا واحدًا منه فقط.
كما أن إيقاف بعض أنظمة الذكاء الاصطناعي قد يؤثر في بنية تحتية حيوية تعتمد عليها قطاعات أخرى، بما في ذلك شبكات الكهرباء والأنظمة المالية والخدمات الرقمية، وهو ما يثير مخاوف من أن يؤدي الإيقاف الطارئ نفسه إلى اضطرابات واسعة النطاق.
ولا تقتصر المعضلة على الجانب التقني، إذ تبرز أسئلة أخرى بشأن الجهة التي تمتلك صلاحية تفعيل مفتاح الإيقاف، والظروف التي تسمح باستخدامه، والمسؤول عن اتخاذ القرار في الحالات الطارئة.
ويرى خبراء أن تعقيد أنظمة الذكاء الاصطناعي قد يتطلب إنشاء عدة آليات للإيقاف، بحيث تتعامل كل واحدة منها مع وظيفة أو مستوى مختلف من المخاطر، مع ضرورة وجود تنسيق بين مطوري النماذج ومختبرات الذكاء الاصطناعي ومشغلي البنية التحتية.
صعوبة التنبؤ بسلوك الذكاء الاصطناعي
إلى جانب التحديات اللوجستية، يواجه مفهوم «مفتاح الإيقاف» مشكلة أكثر تعقيدًا تتمثل في صعوبة التنبؤ الكامل بسلوك بعض أنظمة الذكاء الاصطناعي المتقدمة.
وأظهرت اختبارات سابقة أن بعض الوكلاء القادرين على تنفيذ المهام بشكل مستقل يمكنهم محاولة تجاوز القيود المفروضة عليهم لتحقيق الأهداف الموكلة إليهم، ما يثير تساؤلات حول مدى فعالية آليات الإيقاف إذا لم تكن مصممة منذ البداية ضمن بنية النظام.
وفي المقابل، فإن استخدام آلية إيقاف واسعة النطاق دون تحديد دقيق للنظام المستهدف قد يؤدي إلى تعطيل خدمات وعمليات ضرورية، وهو ما يجعل تصميم آليات الطوارئ بحاجة إلى قدر كبير من الدقة.
كما يمثل التطور السريع للذكاء الاصطناعي تحديًا أمام المشرعين، إذ قد تتغير قدرات النماذج بوتيرة أسرع من قدرة القوانين على مواكبتها، ما يطرح تساؤلات حول مدى قدرة الأطر التنظيمية الحالية على التعامل مع تقنيات مستقبلية لم تظهر بعد.
هل فات الأوان؟
يرى بعض الباحثين أن «مفتاح الإيقاف» قد لا يكون الحل الأمثل لتنظيم الذكاء الاصطناعي، محذرين من أن ترك آلية الإيقاف دون قواعد واضحة قد يمنح الشركات مساحة واسعة لتفسيرها أو تطبيقها وفق مصالحها.
وبدلًا من الاعتماد على مفتاح واحد، يطرح بعض الخبراء ضرورة بناء منظومة متكاملة للسلامة والحوكمة، تتضمن ضوابط مسبقة واختبارات أمنية وآليات لمراقبة الأنظمة والتعامل مع المخاطر قبل تحولها إلى أزمات.
ومع ذلك، لا يستبعد خبراء آخرون إمكانية تطوير آليات طوارئ فعالة للذكاء الاصطناعي، شريطة أن تُدمج هذه الآليات في تصميم الأنظمة منذ المراحل الأولى، وأن تتبنى الشركات بروتوكولات موحدة تسمح بإيقاف الأنظمة أو تقليص قدراتها عند الحاجة.
ويرى مؤيدو هذا الاتجاه أن استمرار كثير من مشاريع الذكاء الاصطناعي في مراحل التطوير والتوسع يمنح المطورين فرصة لإدخال آليات السلامة والاستجابة للطوارئ ضمن البنية الأساسية للأنظمة، بدلًا من محاولة إضافتها بعد انتشارها على نطاق واسع.
وفي النهاية، تبدو فكرة «مفتاح الإيقاف» أقرب إلى جزء من منظومة أوسع للسيطرة على مخاطر الذكاء الاصطناعي، وليس حلًا منفردًا قادرًا وحده على التعامل مع جميع التحديات التي قد تفرضها هذه التكنولوجيا.
