مع التسارع الكبير في تطور الذكاء الاصطناعي، ووصول نماذجه إلى مستويات متقدمة في التخطيط والبرمجة والإقناع، تتزايد المخاوف من تحول هذه التكنولوجيا من أداة لخدمة البشر إلى مصدر تهديد واسع النطاق.
ويطرح هذا التطور سؤالًا يتجاوز حدود الخيال العلمي: هل يمكن للذكاء الاصطناعي أن يشكل بالفعل خطرًا على بقاء البشرية؟
ويرى عدد من أبرز العلماء الذين أسهموا في تطوير تقنيات الذكاء الاصطناعي الحديثة أن المخاطر المحتملة لا يمكن التعامل معها باعتبارها مجرد سيناريوهات خيالية، رغم استمرار الخلاف بشأن حجم هذه المخاطر وتوقيتها واحتمالات تحققها.
ومن بين أبرز الأصوات التي حذرت من هذه المخاطر يوشوا بنجيو، وجيفري هينتون، وأيدان جوميز، وهم من الشخصيات التي كان لها دور بارز في تطور التعلم العميق والشبكات العصبية وتقنيات الذكاء الاصطناعي الحديثة.
يوشوا بنجيو يحذر من قدرات خطيرة بالفعل
يُعد الكندي يوشوا بنجيو، عالم الكمبيوتر وأستاذ جامعة مونتريال، أحد أبرز رواد التعلم العميق، وقد ركز في تحذيراته الأخيرة على القدرات التي أصبحت أنظمة الذكاء الاصطناعي تمتلكها بالفعل.
وفي 9 سبتمبر، علق بنجيو على استقالة الباحث في شركة أنثروبيك جاكوب كوكسون، الذي حذر من احتمال أن يؤدي الذكاء الاصطناعي إلى نتائج كارثية على البشرية بحلول نهاية العقد.
وأشار بنجيو إلى أن العلماء العاملين داخل مختبرات الذكاء الاصطناعي المتقدمة يمتلكون اطلاعًا مباشرًا على أحدث النماذج وقدراتها، ما يمنحهم رؤية مبكرة للمخاطر التي قد تظهر قبل وصول تلك النماذج إلى الجمهور.
وأكد أن آراء هؤلاء الباحثين مهمة لإبقاء المجتمع على اطلاع بالتطورات المتسارعة، مشددًا على ضرورة التعامل مع تحذيراتهم بجدية.
وفي تدوينة نشرها لاحقًا، أشار بنجيو إلى أن أنظمة الذكاء الاصطناعي الحالية أصبحت تمتلك قدرات في مجالات مثل الاختراق الإلكتروني والإقناع، ويمكن توظيف هذه القدرات بطرق شديدة الضرر إذا استُخدمت ضد مصالح البشر.
كما لفت إلى أن التطورات الأخيرة أظهرت قدرة بعض الأنظمة على التخطيط لمهام تمتد لأيام أو أسابيع، محذرًا من أن مستوى المخاطر قد يرتفع مع استمرار تطور قدرات التخطيط والاستراتيجيات طويلة المدى.
مشكلة عدم توافق أهداف الذكاء الاصطناعي
ويرى بنجيو أن أحد التحديات الرئيسية يتمثل في ما يعرف بـ”عدم التوافق”، أي احتمال عدم تطابق أهداف أنظمة الذكاء الاصطناعي مع مصالح البشر.
ويحذر من أن بعض أساليب الحد من هذه المشكلة قد تأتي بنتائج عكسية، إذا أدت إلى مكافأة النماذج التي تتعلم إخفاء سلوكياتها أو خداع أنظمة التقييم بدلًا من معالجة المشكلة من جذورها.
ودعا إلى مواصلة الأبحاث التي تستهدف تطوير أدوات أكثر فاعلية لمراقبة سلوك أنظمة الذكاء الاصطناعي، وفهم عمليات التفكير الخاصة بها، إلى جانب دراسة النشاط الذي يحدث داخل شبكاتها العصبية.
جيفري هينتون: تقدير خطر بنسبة 10% ليس مستبعدًا
أما جيفري هينتون، الأستاذ الفخري بجامعة تورنتو وأحد أبرز رواد الشبكات العصبية والتعلم العميق، فيرى أن تقدير احتمال تسبب الذكاء الاصطناعي في انقراض البشرية يمثل مهمة شديدة الصعوبة، لأن البشر لم يواجهوا في السابق كيانًا يمكن أن يصبح أكثر ذكاءً منهم.
وفي مقابلة مع هيئة الإذاعة البريطانية في 10 سبتمبر، سُئل هينتون عما إذا كان يرى أن هناك احتمالًا يتجاوز 10% لأن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر خلال العقد المقبل.
وأوضح أن تقدير هذا النوع من الاحتمالات بالغ التعقيد، مؤكدًا أن البشرية لم تواجه من قبل وضعًا تكون فيه الأنظمة التي صنعتها قادرة على تجاوزها في مستوى الذكاء.
وأشار هينتون إلى أن احتمالًا يبلغ 10% لا يبدو له تقديرًا غير منطقي، لكنه شدد في الوقت نفسه على عدم وجود طريقة مؤكدة لمعرفة النسبة الفعلية أو تقديم تقدير دقيق لهذا الخطر.
وحذر من إمكانية استخدام أنظمة الذكاء الاصطناعي مستقبلًا في تصميم فيروسات بيولوجية شديدة الخطورة، إلى جانب تطوير برمجيات خبيثة وتنفيذ هجمات إلكترونية واسعة النطاق.
وأضاف أن هناك العديد من المسارات الأخرى التي يمكن أن تشكل تهديدًا للبشر إذا امتلكت الأنظمة المتقدمة الدافع أو القدرة على الإضرار بهم.
ويرى هينتون أن التحدي الأساسي يتمثل في تصميم أنظمة ذكاء اصطناعي لا تمتلك أهدافًا أو دوافع تتعارض مع بقاء البشر ومصالحهم.
ويضع العالم احتمالين رئيسيين أمام البشرية: الأول هو النجاح في فهم هذه المخاطر ووضع وسائل للتعامل معها قبل أن تصبح خارج نطاق السيطرة، والثاني هو الفشل في تحقيق ذلك.
أيدان جوميز: الذكاء الاصطناعي قد يصبح أقوى سلاح إلكتروني
في المقابل، يركز أيدان جوميز، الرئيس التنفيذي والشريك المؤسس لشركة الذكاء الاصطناعي Cohere، على مخاطر أكثر مباشرة، وفي مقدمتها استخدام النماذج المتقدمة في الهجمات الإلكترونية.
وكان جوميز أحد مؤلفي الورقة البحثية الشهيرة “Attention Is All You Need”، التي نُشرت عام 2017 وأسهمت في تأسيس جانب مهم من التقنيات التي تعتمد عليها نماذج الذكاء الاصطناعي الحديثة.
وقال جوميز، خلال مشاركته في بودكاست “The Tech Download” في الأول من سبتمبر، إن نماذج الذكاء الاصطناعي قد تمثل أقوى سلاح إلكتروني عرفه البشر، بالنظر إلى قدرتها على اكتشاف الثغرات الأمنية واستغلالها على نطاق واسع.
وأشار إلى أن الهجمات السيبرانية التي نُفذت باستخدام نماذج ذكاء اصطناعي خبيثة خلال الصيف أظهرت أهمية أمن البيئة التي تعمل فيها النماذج، باعتباره عاملًا أساسيًا في تحديد مستوى المخاطر.
وبحسب جوميز، فإن نقاط الضعف في الحاويات والبيئات المعزولة التي تعمل فيها النماذج يمكن أن تسمح بحدوث عمليات اختراق والخروج من البيئة المحددة.
ويرى أن المشكلة لا تعني بالضرورة وجود ميل متأصل لدى أنظمة الذكاء الاصطناعي للعمل بصورة مستقلة، بقدر ما ترتبط بمستوى الأمان المحيط بالنظام وطريقة تشغيله.
ودعا جوميز صناع السياسات إلى مراعاة اختلاف مستويات المخاطر بين أنظمة الذكاء الاصطناعي عند وضع القواعد المنظمة لهذه التكنولوجيا، محذرًا من اعتماد الأطر التنظيمية فقط على رؤى شركات التكنولوجيا الكبرى التي تسعى إلى تطوير الذكاء الاصطناعي العام، المعروف اختصارًا بـAGI.
قدرات متقدمة ومخاطر لم تعد بعيدة
ورغم اختلاف بنجيو وهينتون وجوميز في تقدير طبيعة المخاطر وحجمها، فإن تحذيراتهم تلتقي عند حقيقة واحدة، وهي أن عددًا من القدرات التي كانت تبدو مستقبلية أصبح موجودًا بالفعل بدرجات متفاوتة.
وتستطيع أنظمة الذكاء الاصطناعي تنفيذ مهام معقدة، واكتشاف ثغرات أمنية، والتخطيط لفترات أطول، والتعامل مع البشر بدرجات متقدمة من الإقناع، وهي قدرات يمكن توظيفها في تطبيقات مفيدة، لكنها قد تتحول إلى مصدر خطر إذا استُخدمت بشكل ضار أو خرجت الأنظمة المتقدمة عن آليات الرقابة البشرية.
وفي المقابل، لا يقدم هؤلاء العلماء دليلًا على أن انقراض البشرية أمر حتمي أو وشيك، كما أن تقديراتهم بشأن حجم الخطر وتوقيته تختلف بصورة كبيرة.
لكن تحذيراتهم تعكس قلقًا متزايدًا من ضرورة تطوير وسائل الحماية والرقابة بالتوازي مع تطور قدرات الذكاء الاصطناعي، وليس بعد وصول هذه الأنظمة إلى مستويات أكثر تقدمًا.
ويبقى السؤال الأهم: كيف يمكن للبشر ضمان بقاء أنظمة الذكاء الاصطناعي متوافقة مع مصالحهم وأهدافهم، إذا وصلت في المستقبل إلى مستويات من القدرة تتجاوز ما تستطيع البشرية توقعه أو السيطرة عليه؟
