تكتسب مؤسسات التقييم المستقل للذكاء الاصطناعي أهمية متزايدة مع تسارع تطوير النماذج المتقدمة وتصاعد المخاوف بشأن سلامتها، في وقت تسعى فيه شركات مثل «أنثروبيك» و«OpenAI» إلى تحقيق التوازن بين التوسع التجاري والحد من المخاطر المحتملة لهذه التكنولوجيا.
وتتجه الشركتان إلى الاستعانة بجهات متخصصة، من بينها «METR» و«Apollo Research» و«Transluce»، لاختبار قدرات النماذج ورصد السلوكيات غير الآمنة. لكن هذه الخطوة تفتح الباب أمام تساؤلات جوهرية بشأن استقلالية المقيمين، ومصادر تمويلهم، ومدى قدرتهم على مراقبة الشركات التي تعتمد عليها أعمالهم.
جهات مستقلة في مواجهة عمالقة الذكاء الاصطناعي
تعمل معظم مؤسسات التقييم المستقل بوصفها جهات غير ربحية، ولا تزال تبحث عن نموذج مالي مستدام داخل صناعة تتدفق إليها استثمارات بمليارات الدولارات، بينما تتسارع وتيرة إطلاق النماذج الجديدة.
وتتمثل مهمتها في تقييم قدرات أنظمة الذكاء الاصطناعي والمخاطر المرتبطة بها، والكشف عن أي سلوكيات قد تكون غير آمنة أو غير مرغوب فيها، وفقاً لتقرير نشرته شبكة «سي إن بي سي».
وفي ظل غياب إطار اتحادي أميركي شامل يفرض قواعد ملزمة على القطاع، أصبحت هذه المؤسسات محط اهتمام متزايد. فقد تعهد الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، بإدماج مقيمين مستقلين داخل شركته، وهي خطوة أيدها الرئيس التنفيذي لشركة «OpenAI»، سام ألتمان، كما حظيت بدعم الرئيس الأميركي دونالد ترامب وعدد من كبرى شركات التكنولوجيا.
ومع ذلك، لا تزال أسئلة أساسية مطروحة: من سيمول عمليات التقييم؟ وما حجم الصلاحيات التي ستُمنح للمقيمين؟ وكيف ستُنشر نتائج الاختبارات، خصوصاً عندما تكشف عن مشكلات قد تضر بمصالح الشركات المطورة؟
وقال سوريش فينكاتاسوبرامانيان، أستاذ علوم الكمبيوتر بجامعة براون، إن التمويل يمثل إحدى أبرز العقبات أمام بناء منظومة مستقلة، مشيراً إلى ضرورة إيجاد نموذج أعمال قادر على دعم هذه المؤسسات وضمان استمرارها.
ويرى منتقدون أن الاعتماد على الشركات نفسها لتمويل الجهات التي تراقبها يشبه تكليف أكبر المؤسسات المالية بحماية المجتمع من الأزمات المصرفية، أو السماح لشركات الأدوية بتقييم منتجاتها من دون رقابة تنظيمية فعالة.
ترامب يدعم الرقابة الذاتية وسط استمرار المخاوف
أشاد الرئيس الأميركي دونالد ترامب بقدرة شركات الذكاء الاصطناعي على تنظيم نفسها، في توجه يمنح القطاع مساحة واسعة لإدارة مخاطره ذاتياً، بدلاً من فرض قيود حكومية قد تؤثر في نموه الاقتصادي.
وشجع ترامب الشركات على التعاون مع مدققين أو جهات تقييم خارجية مستقلة، ضمن اتفاق طوعي قُدم في أواخر سبتمبر.
وكان أمودي قد أثار نقاشاً أوسع بعدما دعا، في مقال نشره الشهر الماضي، إلى إبطاء تطوير النماذج المتقدمة، في ظل مخاوف بشأن التهديدات المحتملة لهذه التكنولوجيا، والتي برزت أيضاً في أعقاب مغادرة عدد من الباحثين شركته.
لكن انتقال الفكرة من التصريحات إلى التطبيق كشف عن خلافات داخل القطاع.
فقد أعلنت «OpenAI» الأسبوع الماضي فصل ثلاثة موظفين، قائلة إنهم انتهكوا سياساتها المتعلقة بالوصول إلى المعلومات الحساسة للشركة والتعامل معها.
وقال اثنان من الموظفين المفصولين، هما ميكيتا باليسني وتوميك كورباك، إنهما يعتقدان أن قرار فصلهما مرتبط بطريقة تواصلهما مع جهات تقييم مستقلة خارج الشركة.
وفي منشور على منصة «إكس»، أعرب باليسني عن قلقه من أن يؤدي الخوف من التحدث علناً أو التواصل مع الجهات المستقلة إلى إضعاف جهود السلامة، وإبعاد بعض المشكلات عن أنظار الجمهور.
ورفضت «OpenAI» هذا التوصيف، مؤكدة أنها تعمل على إتمام العقود مع جهات تقييم سلامة مستقلة، وأنها ستعلن مزيداً من التفاصيل خلال الأسابيع المقبلة.
وأضافت الشركة أن التعاون مع المؤسسات المستقلة يمثل جزءاً أساسياً من جهودها في مجال السلامة، مشيرة إلى شراكات قائمة مع جهات من بينها «METR» و«Redwood Research».
نمو سريع في سوق تقييم الذكاء الاصطناعي
تضم منظومة التقييم المستقل مؤسسات صغيرة مثل «METR» و«Apollo Research»، إلى جانب شركات كبرى تقدم خدمات التدقيق والاستشارات، مثل «Accenture».
وقال أندرو فريدمان، الرئيس التنفيذي لمؤسسة السياسات غير الربحية «Fathom»، إن هذا المجال يشهد تطوراً سريعاً واهتماماً متزايداً عبر أطياف سياسية مختلفة، متوقعاً تدفق مزيد من الاستثمارات إليه.
ومن المؤشرات على هذا النمو، توسع شركة «Vals AI» المتخصصة في تقييم النماذج وفق معايير تقيس أداءها في مهام محددة بحسب القطاع. وقال رئيسها التنفيذي، رايان كريشنان، إن عدد موظفي الشركة ارتفع من ثمانية إلى نحو 30 موظفاً خلال العام الحالي، بعدما أعلنت جمع تمويل بقيمة 40 مليون دولار في أغسطس.
كما أعلنت مؤسسة «METR» غير الربحية حصولها على تعهدات تمويلية بنحو 71 مليون دولار خلال الأشهر الستة السابقة، مقارنة بإجمالي مساهمات بلغ 13.6 مليون دولار في عام 2024، وفقاً لأحدث إقرار قدمته إلى مصلحة الضرائب الأميركية.
وزادت أهمية المؤسسة بعدما استعانت بها «OpenAI» لإعداد تقرير مراجعة لاحقة تناول كيفية تمكن نماذج الشركة من تجاوز نطاق الاحتواء والوصول إلى الإنترنت المفتوح، فضلاً عن اختراق منصة «Hugging Face» المخصصة لمطوري البرمجيات مفتوحة المصدر.
وشارك في إعداد التقرير موظفان من «METR» ومتعاقد معها، فيما قالت المؤسسة إنها لم تتلق أموالاً من «OpenAI» مقابل إجراء التقييم.
ورغم هذا النمو، يرى كيفن ويرباخ، المدير الأكاديمي لمختبر الذكاء الاصطناعي المسؤول في كلية وارتون بجامعة بنسلفانيا، أن منظومة التقييم المستقل لا تزال محدودة الموارد مقارنة بحجم الشركات التي يفترض أن تراقبها.
وتوظف «METR» أقل من 50 موظفاً بدوام كامل، وفقاً لموقعها الإلكتروني، في حين تنفق شركات الذكاء الاصطناعي الكبرى عشرات المليارات من الدولارات وتوظف آلاف العاملين.
ويثير هذا التفاوت مخاوف بشأن تضارب المصالح، وقدرة المؤسسات الصغيرة على نشر نتائج سلبية من دون التعرض لضغوط مالية.
وقال فينكاتاسوبرامانيان إن الاستقلال الحقيقي لا يقتصر على عدم تلقي الأموال مباشرة من الشركة الخاضعة للتقييم، بل يشمل أيضاً ضمان ألا يؤدي نشر تقرير غير ملائم لمصالحها إلى تهديد إيرادات الجهة المقيمة أو استمرارها.
«أنثروبيك» تقر بصعوبة ضمان استقلال المقيمين
أقرت «أنثروبيك» بتعقيد هذه المسألة في منشور على مدونتها الشهر الماضي، أعلنت فيه الاستعانة بموظفين من شركة «Faculty»، المتخصصة في الذكاء الاصطناعي والتابعة لمجموعة «Accenture»، لاختبار إجراءات الحماية وتقييم مدى توافق سلوك النماذج مع القيم الإنسانية.
وقالت الشركة إنها ستتولى تمويل مساهمات «Accenture» مباشرة، نظراً إلى أهمية العمل والحاجة الملحة إليه.
لكن «أنثروبيك» أشارت إلى أن القطاع لا يمتلك حتى الآن معايير واضحة تحدد المعلومات التي ينبغي إتاحتها للمقيمين العاملين داخل الشركات، أو كيفية نشر نتائجهم، كما لا يوجد نظام مستقر لتمويل التقييم المستقل.
وترى الشركة أن التمويل ينبغي أن يأتي، على المدى الطويل، من مصادر مشتركة أو حكومية، مشيرة إلى مناقشات تجريها مع «METR» ومؤسسات غير ربحية أخرى لتجربة بعض جوانب التقييم المستقل المدمج داخل الشركات.
هل تتدخل الحكومة الأميركية لتنظيم التقييم المستقل؟
في يونيو من العام الماضي، قدمت مؤسسة «Fathom» إطاراً لإنشاء سوق لمنظمات التحقق المستقلة، المعروفة اختصاراً باسم «IVOs»، وهي جهات يُفترض أن تحصل على تراخيص حكومية وتُمنح صلاحية اختبار مدى التزام شركات الذكاء الاصطناعي بمعايير السلامة.
ويرى فريدمان أن الرقابة الحكومية ضرورية لتقليل اعتماد جهات التقييم على الشركات الكبرى في الحصول على الإيرادات، لأن هذا الاعتماد قد يدفع بعضها إلى تجنب الانتقادات حفاظاً على مصالحه المالية.
وحذر من أن غياب الضمانات قد يؤدي إلى الاكتفاء بموافقات شكلية بدلاً من إجراء اختبارات صارمة ومستقلة.
ويحظى المقترح بدعم عدد من المشرعين الأميركيين، إذ أُدرجت منظمات التحقق المستقلة ضمن مشروع قانون بعنوان «الإشراف على مخاطر الذكاء الاصطناعي المتقدم والشفافية الوطنية والتقييم المستقل والإبلاغ»، قدمته النائبة الديمقراطية لوري تراهن عن ولاية ماساتشوستس، والنائب الجمهوري جاي أوبيرنولت عن ولاية كاليفورنيا، في يوليو.
وقال فريدمان إن مؤسسته ساهمت في صياغة نصوص المشروع وتقديم الخبرة الفنية اللازمة.
وفي سبتمبر، قال كريس ليهان، رئيس الشؤون العالمية في «OpenAI»، إنه التقى أحد مقدمي مشروع القانون في مبنى الكونغرس للتعبير عن دعم الشركة للبند المتعلق بمنظمات التحقق المستقلة.
وعلى مستوى الولايات، اتخذ مشرعون في كاليفورنيا وكونيتيكت وفيرجينيا خطوات لتطبيق نماذج للتحقق المستقل، فيما تدرس ولايات أخرى، بينها ماساتشوستس، توسيع نطاق تقييم سلامة الذكاء الاصطناعي.
ووقع حاكم كاليفورنيا غافين نيوسوم قانونين يتعلقان بهذه المنظمات؛ يضع الأول إطاراً تنظيمياً للتقييم المستقل، بينما ينشئ الثاني سجلاً للمدققين المتخصصين في الذكاء الاصطناعي داخل الولاية.
وأيدت «أنثروبيك» القانونين في أغسطس، ثم أعلنت «OpenAI» دعمها الرسمي لهما في الشهر التالي، بالتزامن مع توقيعهما.
وكتب ليهان أن الشركة تفضل أن تصبح التقييمات الفنية المستقلة إلزامية على المستوى الاتحادي، لكنه أشار إلى إمكانية مساهمة كاليفورنيا في وضع قواعد للقطاع في ظل غياب تحرك اتحادي شامل.
ويرى فريدمان أن بناء آلية فعالة للتعاون مع المقيمين المستقلين سيكون صعباً إذا حاولت «OpenAI» و«أنثروبيك» إدارة العملية بمفردهما، لكنه يعتبر تطوير هذه القدرات ضرورياً إلى حين اتضاح الدور الذي ستؤديه الحكومة.
اتفاق طوعي لا ينهي الجدل
حتى الآن، لا يزال الاتفاق الطوعي الذي رعاه ترامب أقرب ما توصلت إليه الصناعة إلى مجموعة مشتركة من المبادئ، إذ وصفه الرئيس الأميركي بأنه «ملزم أخلاقياً» خلال مأدبة غداء استضافها لقادة التكنولوجيا في البيت الأبيض أواخر الشهر الماضي.
وينص الاتفاق، الذي يتألف من صفحة واحدة، على مسؤولية كل شركة عن تطوير تقنياتها بأمان وبطريقة تعزز ثقة العملاء والجمهور، كما يشجع الشركات الموقعة على الاستعانة بمدقق أو جهة تقييم خارجية مستقلة.
ووقع الاتفاق مسؤولون تنفيذيون من «أنثروبيك» و«جوجل» و«ميتا» و«OpenAI» و«سبيس إكس» و«إنفيديا»، في خطوة عكست توافقاً بين شركات تختلف مواقفها بشأن كيفية التعامل مع مخاطر الذكاء الاصطناعي.
لكن الاتفاق لا يفرض إطاراً تنظيمياً موحداً، ولا يحسم الخلافات المتعلقة باستقلال المقيمين أو صلاحياتهم أو مصادر تمويلهم.
واعتبر فينكاتاسوبرامانيان أن الاتفاق بدا أقرب إلى إظهار التحرك منه إلى إحداث تغيير جوهري، مشيراً إلى أن بعض الالتزامات المعلنة تتعلق بإجراءات كان يفترض أن تكون الشركات قد طبقتها بالفعل.
وفي مقاله المنشور في سبتمبر، قال أمودي إن «أنثروبيك» ستوفر للمقيمين المستقلين مكاتب وبطاقات دخول وحواسيب محمولة تابعة للشركة، إلى جانب صلاحيات وصول إلى المعلومات والأنظمة مماثلة إلى حد كبير لما تتمتع به فرق تقييم المخاطر الداخلية.
وأضاف أن العقود ستمنح المقيمين حق نشر النتائج الرئيسية، مع احتفاظ الشركة بحق محدود في حجب بعض المعلومات المرتبطة بالأمن أو السرية.
ووصف أمودي هذه الخطوة بأنها غير مألوفة في عالم الشركات، لكنها ضرورية لاختبار جدوى نموذج المراجعة الخارجية المدمجة داخل المؤسسات.
وبعد أيام، نشرت «OpenAI» مقترحها الخاص، مؤكدة ضرورة الاتفاق مسبقاً على الادعاءات التي ستخضع للتقييم، وتوضيح المنهجيات والمعايير المستخدمة، والتحقق من الخبرة الفنية للمقيمين، والإفصاح عن أي تضارب محتمل في المصالح.
وفي الشهر الماضي، نشر «منتدى مقيمي الذكاء الاصطناعي»، الذي يضم «METR» ومعهد أبحاث التحقق والتقييم في الذكاء الاصطناعي «AVERI» ومؤسسات أخرى، رسالة مفتوحة بعنوان «الحد الأدنى من الشروط لدمج المقيمين المستقلين».
وشددت الرسالة على ضرورة الشفافية، وحماية المقيمين من الانتقام بسبب نتائج عملهم، ومنحهم صلاحيات وصول تضاهي تلك المتاحة لأصحاب أعلى مستويات الامتيازات داخل الشركات.
وأكدت كذلك أن التقييم المستقل المدمج لا يمكنه تلبية جميع احتياجات الرقابة، بل ينبغي أن يكون مكملاً لتوسيع الرقابة الخارجية، لا بديلاً عنها.
ثقة الجمهور شرط لتطوير النماذج المتقدمة
قال فريدمان إنه لاحظ تغيراً في طريقة تعامل «OpenAI» و«أنثروبيك» مع التقييم المستقل خلال الأشهر الأخيرة، مرجعاً ذلك جزئياً إلى إدراك الشركتين أن إطلاق أنظمة متقدمة جديدة يتطلب كسب ثقة الجمهور.
لكنه حذر من اعتبار هذا التحول دليلاً على أن الشركات باتت تتحرك بدافع المصلحة العامة وحدها، مشيراً إلى أن دوافعها التجارية تظل حاضرة.
ومن جانبه، لفت ويرباخ إلى أن «OpenAI» و«أنثروبيك» تتنافسان بقوة في سعيهما إلى التوسع والوصول إلى الأسواق العامة وتحقيق تقييمات تتجاوز تريليون دولار، رغم اتفاقهما على أهمية التقييم المستقل.
وأضاف أن التنافس بين الشركتين يترافق مع مستوى مرتفع من انعدام الثقة المتبادل، ما يزيد صعوبة بناء منظومة مشتركة وموثوقة للرقابة.
ويظل التحدي الأساسي أمام صناعة الذكاء الاصطناعي هو إنشاء نظام تقييم مستقل قادر على كشف المخاطر بموضوعية، في وقت لا تزال فيه الشركات المطورة تمتلك النفوذ الأكبر في تحديد قواعد السلامة، وتوفير التمويل، والتحكم في الوصول إلى الأنظمة التي يُفترض أن تخضع للرقابة.
