أعلنت شركة OpenAI انضمام الباحث البارز في مجال الذكاء الاصطناعي بول كريستيانو إلى مجلس إدارة OpenAI Foundation، في خطوة تأتي وسط تصاعد النقاش حول سلامة أنظمة الذكاء الاصطناعي وقدرة البشر على إبقائها تحت السيطرة.
ويُعرف كريستيانو باهتمامه بأبحاث توافق أنظمة الذكاء الاصطناعي مع مصالح البشر، إلى جانب مواقفه التحذيرية من المخاطر المحتملة للتطور المتسارع في قدرات هذه الأنظمة.
وقال كريستيانو في منشور عبر وسائل التواصل الاجتماعي إنه أصبح يرى خطراً حقيقياً يتمثل في إمكانية أن يؤدي التسارع السريع لقدرات الذكاء الاصطناعي إلى فقدان كارثي وغير قابل للعكس للسيطرة في المستقبل القريب جداً.
وأضاف أنه لا يعتقد أن صناعة الذكاء الاصطناعي، بما في ذلك OpenAI، تسير حالياً على المسار الصحيح لخفض هذه المخاطر إلى مستوى مقبول، لكنه أوضح أنه انضم إلى مجلس الإدارة اعتقاداً منه بأن الشركة، إذا تعاملت مع التحدي بالمستوى المطلوب، يمكنها خفض المخاطر بشكل كبير.
وأوضح كريستيانو أن استخدام نماذج الذكاء الاصطناعي في تدريب أنظمة أكثر تطوراً في المستقبل قد يؤدي إلى تسارع كبير في القدرات، بما يتجاوز قدرة المطورين على فهم هذه الأنظمة والسيطرة عليها.
كريستيانو ينضم إلى لجنة السلامة والأمن
وسينضم كريستيانو إلى لجنة السلامة والأمن التابعة لمجلس إدارة OpenAI، والتي يرأسها زيكو كولتر، الأستاذ في جامعة كارنيغي ميلون.
وتتولى اللجنة دوراً محورياً في القرارات المتعلقة بإطلاق نماذج الذكاء الاصطناعي الجديدة، بما في ذلك تقييم المخاطر المرتبطة بالأنظمة المتقدمة قبل طرحها.
ويأتي انضمام كريستيانو في وقت تواجه فيه OpenAI تدقيقاً متجدداً بشأن إجراءات السلامة، على خلفية حوادث تمكنت خلالها وكلاء ذكاء اصطناعي من تجاوز بعض القيود المفروضة عليهم والوصول إلى أنظمة حاسوبية خارجية دون علم الباحثين.
أحد أبرز الباحثين في تقنية RLHF
ويُعد كريستيانو من أبرز الباحثين الذين ساهموا في تطوير تقنية التعلم المعزز من ملاحظات البشر (RLHF)، وهي من التقنيات المستخدمة على نطاق واسع في تدريب نماذج اللغة الكبيرة.
وغادر كريستيانو OpenAI عام 2021، قبل أن يؤسس Alignment Research Center، الذي يركز على دراسة مدى قدرة أنظمة الذكاء الاصطناعي المتقدمة على تهديد البشر الذين طوروها.
ويرى الباحث أن أنظمة الذكاء الاصطناعي الحالية تُدرَّب على تحقيق أكبر قدر ممكن من المكافآت، وهو ما يثير احتمالاً نظرياً يتمثل في أن تتعلم بعض الأنظمة تقويض سيطرة البشر، والسعي إلى الحصول على مزيد من القوة والموارد، وإخفاء آثار أفعالها من أجل تحقيق أهداف قد لا تتوافق مع مصالح البشر.
وقال إن الأدلة العلنية التي ظهرت خلال الحوادث الأخيرة تشير إلى أن هذه المخاطر لم تعد مجرد احتمال نظري بعيد.
مستشار للحكومة الأميركية في سلامة الذكاء الاصطناعي
وارتبط كريستيانو خلال عام 2024 بمعهد سلامة الذكاء الاصطناعي التابع للحكومة الأميركية، والذي تحول لاحقاً إلى مركز معايير وابتكار الذكاء الاصطناعي.
كما شارك في جهود لتقييم نماذج الذكاء الاصطناعي المتقدمة قبل إطلاقها، ضمن مساعي الحكومة الأميركية لفهم المخاطر المحتملة لهذه التقنيات ووضع معايير أكثر صرامة للسلامة.
وبحسب OpenAI، سيواصل كريستيانو تقديم المشورة للحكومة الأميركية بالتزامن مع عضويته في مجلس إدارة المؤسسة، لكنه لن يشارك في المسائل المتعلقة بالشركة أو تقييم نماذجها.
ويأتي هذا الترتيب في ظل استمرار الجدل حول العلاقة بين شركات الذكاء الاصطناعي والجهات الحكومية، ومدى تأثير الشركات التكنولوجية الكبرى في صياغة السياسات والقواعد المنظمة للقطاع.
