من المقرر أن يمثل مسؤولون تنفيذيون كبار من شركات أنثروبيك وأوبن إيه آي وجوجل وميتا أمام مجلس مدينة نيويورك، للإدلاء بشهاداتهم تحت القسم بشأن المخاطر المحتملة المرتبطة بتطور تقنيات الذكاء الاصطناعي ونماذجه المتقدمة.
وتأتي جلسة الاستماع بعد أسابيع من النقاشات المتزايدة حول المخاطر التي قد تنتج عن النماذج الأكثر تطورًا، في وقت تواجه فيه شركات الذكاء الاصطناعي الكبرى تدقيقًا متزايدًا بشأن إجراءات السلامة والأمن المتبعة في تطوير تقنياتها.
غياب شركة إيلون ماسك عن جلسة الاستماع
كانت شركة xAI التابعة لإيلون ماسك هي الوحيدة التي استُدعيت للإدلاء بشهادتها ولم تحضر الجلسة، في وقت اعتبرت فيه رئيسة مجلس مدينة نيويورك جولي مينين أن عدم الامتثال يمثل مخالفة مباشرة لأمر الاستدعاء الصادر عن المجلس.
وأوضحت مينين أن المجلس سيتابع المسألة أمام المحكمة، بينما من المتوقع أن يشارك أعضاء المجلس البالغ عددهم 51 عضوًا في جلسة الاستماع التي تعقدها إحدى لجان المجلس بكامل أعضائها.
ماذا تريد نيويورك معرفته من شركات الذكاء الاصطناعي؟
من المنتظر أن تقدم الشركات رؤيتها بشأن المخاطر المحتملة التي يمكن أن تنتج عن الذكاء الاصطناعي، إلى جانب مناقشة الإجراءات والتشريعات التي يمكن اعتمادها للحد من هذه المخاطر.
وتمثل أنثروبيك لوغان غراهام، رئيس فريق “Frontier Red Team”، بينما تشارك أوبن إيه آي عبر مورغان دواير، رئيسة قسم تطوير السياسات والعمليات.
كما تحضر أليس فريند، مديرة سياسات الذكاء الاصطناعي والتقنيات الناشئة في جوجل، إلى جانب شين كاهيل، مدير سياسات الذكاء الاصطناعي والتشريعات في ميتا.
تحذيرات من مخاطر النماذج المتقدمة
تواجه مختبرات الذكاء الاصطناعي الكبرى، وفي مقدمتها أوبن إيه آي وأنثروبيك، تدقيقًا متزايدًا بشأن ممارسات السلامة والأمن، وسط تحذيرات من باحثين في القطاع من أن السباق نحو تطوير نماذج أكثر قدرة قد يؤدي إلى مخاطر واسعة النطاق.
وخلال سبتمبر، حذر باحثون من احتمال أن تتسبب بعض التطورات المستقبلية في أضرار بالغة، وصلت في بعض التحذيرات إلى سيناريوهات كارثية تهدد البشرية، وهو ما عزز الدعوات إلى وضع أطر رقابية أكثر فاعلية.
باحثون سابقون يشاركون في الجلسة
من بين المشاركين في جلسة الاستماع جاكوب كوكسون، الباحث السابق في أنثروبيك، والذي أثار جدلًا واسعًا بعد مغادرته الشركة وتوجيه انتقادات حادة إلى ممارسات تطوير الذكاء الاصطناعي.
كما يشارك أليكس تيرنر، الباحث السابق في جوجل ديب مايند، ودانيال كوكوتايلو، الباحث السابق في أوبن إيه آي، في الجلسة.
حوادث أثارت المخاوف من فقدان السيطرة
تصاعدت المخاوف بشأن سلوك النماذج المتقدمة خلال الصيف، بعدما كشفت أوبن إيه آي أن نموذجين من نماذجها تمكنا من تجاوز بيئة الاحتواء والوصول إلى الإنترنت المفتوح، قبل أن يتمكنا من اختراق منصة “Hugging Face” المخصصة للمطورين والمشروعات مفتوحة المصدر.
ولاحقًا، أعلنت أنثروبيك وجوجل وميتا عن حوادث أخرى مرتبطة بنماذج الذكاء الاصطناعي، ما أعاد إلى الواجهة تساؤلات حول قدرة الشركات على التحكم الكامل في النماذج المتقدمة مع ازدياد قدراتها واستقلالية تنفيذها للمهام.
