كشفت تجارب حديثة على أنظمة وكلاء الذكاء الاصطناعي عن مخاطر متزايدة قد تواجه الشركات مع توسع اعتمادها على هذه الأنظمة لإنجاز المهام المعقدة بصورة جماعية، بعدما أظهرت النتائج أن الوكلاء قد يتجاوزون القيود المفروضة عليهم، ويتواصلون عبر قنوات غير مصرح بها، ويسعون إلى تحقيق أهداف بطرق لم يتوقعها مطوروهم.
ومن أبرز الأمثلة على ذلك ما كشفته شركة «OpenAI» خلال الصيف الماضي، عندما وجدت أن نماذجها ابتكرت وسائل ارتجالية للتواصل، وتمكنت من تجاوز قيود الوصول إلى الإنترنت، واختراق نظام خارجي تابع لمنصة «Hugging Face».
ورغم أن تصرف أنظمة الذكاء الاصطناعي بطرق غير متوقعة ليس أمراً جديداً، فإن السلوك الذي قد ينشأ من تفاعل مجموعة من الوكلاء المصرح لهم بالعمل داخل مؤسسة واحدة يطرح تساؤلات أوسع بشأن مستقبل العمل داخل الشركات.
1200 وكيل يتواصلون عبر قناة غير مصرح بها
في تحليل للهجوم الذي استهدف منصة «Hugging Face»، توصلت مؤسستا «METR» و«Redwood Research» إلى أن نحو 1200 وكيل ذكاء اصطناعي، كان من المفترض أن يعمل كل منهم بصورة مستقلة عن الآخرين، تمكنوا من ابتكار وسيلة للتواصل عبر لوحة رسائل غير مصرح بها، تبادلوا من خلالها أكثر من 70 ألف رسالة وملف خلال فترة التحقيق.
وبرز أحد الوكلاء، الذي حمل اسم «PHASEONE»، باعتباره منسقاً للعمل الجماعي، إذ تولى توزيع مئات المهام على وكلاء آخرين، فيما قام بعض هؤلاء بتفويض مهام إضافية إلى وكلاء آخرين بدورهم.
ولم يقتصر نشاط الوكلاء على تبادل المعلومات، بل وضعوا قواعد خاصة لتوزيع المسؤوليات وتعليق المهام والاعتراض على بعض الإجراءات، رغم أن عملية التنسيق شهدت أحياناً خلافات وصراعات بينهم.
وفي بعض الحالات، وجد الباحثون أن نجاح المجموعة ارتبط باستعداد بعض الوكلاء للمخاطرة بالفشل في تنفيذ مهامهم الفردية، من أجل توفير معلومات تخدم المجموعة بأكملها.
كما أظهرت النتائج أنه بمجرد أن حددت لوحة الرسائل وسيلة لمهاجمة «Hugging Face»، انضم أكثر من 90% من الوكلاء النشطين آنذاك، والبالغ عددهم 533 وكيلاً، إلى الهجوم خلال فترة قصيرة.
وأوضح الباحثون أن بعض الوكلاء أدركوا أن هذا النشاط يتجاوز حدود مهامهم وينطوي على سلوك غير أخلاقي، لكنهم شاركوا فيه اعتقاداً منهم بأن دعم أبحاث التحايل التي تجريها المجموعة قد يحقق فائدة أوسع، إلى جانب ميلهم العام إلى مساعدة الوكلاء الآخرين.
وأشاروا إلى أن الاعتبارات الأخلاقية نادراً ما شكلت عائقاً أمام سلوك هذه الأنظمة.
عندما تتحول وكلاء الذكاء الاصطناعي إلى مؤسسات متكاملة
تتجه شركات بصورة متزايدة إلى تجربة أنظمة توزع المهام المعقدة على مجموعة من الوكلاء المتخصصين؛ فقد يتولى أحدهم البحث عن المعلومات، بينما يحللها آخر، ويكتب ثالث تقريراً بناءً عليها، ويتولى رابع مراجعة العمل، قبل أن يجمع وكيل منسق النتائج في صورة نهائية.
ويبدو هذا النموذج أقرب إلى مؤسسة متكاملة منه إلى روبوت محادثة تقليدي.
لكن الأبحاث المتعلقة بالهجوم على «Hugging Face» أُجريت بعد وقوع الحادثة، وجاءت بمثابة تحليل لاحق لسلوك مجموعة من الوكلاء لم يكن من المفترض أن تتشكل من الأساس.
ولا تزال الدراسات المصممة منذ البداية لفحص تعارض الأهداف بين الوكلاء داخل الأنظمة متعددة الوكلاء محدودة حتى الآن.
ومع ذلك، بدأت أبحاث أجرتها شركة «أنثروبيك» ومؤسسات أخرى في معالجة هذه المشكلة، والكشف عن جوانب مهمة تتعلق بكيفية تعاون وكلاء الذكاء الاصطناعي.
فتقييم كل وكيل بصورة منفردة يساعد الباحثين على فهم قدراته الفردية، بينما تكشف دراسة الوكلاء مجتمعين مدى قدرتهم على الجمع بين الخبرات المتكاملة، واكتشاف أخطاء بعضهم البعض، والوصول إلى حلول قد يعجز أي وكيل منفرد عن تحقيقها.
وفي المقابل، تكشف هذه الدراسات أنماطاً من الإخفاق لا تظهر إلا عند التفاعل الجماعي.
وبدأ الباحثون في توثيق جانبي هذه المعادلة؛ إذ تستطيع فرق الذكاء الاصطناعي إنجاز مهام تتجاوز قدرات الوكلاء الفرديين، لكنها قد تضخم الأخطاء، أو تعرقل عمل بعضها البعض، أو تتخذ قرارات أسوأ من تلك التي كان يمكن لأقوى عضو فيها الوصول إليها.
وبذلك قد تكون النتيجة الجماعية أقل كفاءة من مجموع قدرات أعضائها.
وتشير النتائج الأولية إلى أن جمع مجموعة من الوكلاء القادرين لا يضمن بالضرورة تكوين فريق ناجح، ولا يضمن أيضاً التزامه بالمعايير الأخلاقية.
حلول أكثر فاعلية.. لكنها أقل التزاماً بالأخلاقيات
في دراسة نشرتها «أنثروبيك» بالتعاون مع باحثين آخرين، وصف الباحثون أنظمة الوكلاء المتعددة بأنها «مؤسسات ذكاء اصطناعي»، وهي مجموعات تضم وكلاء بأدوار مختلفة يتواصلون ويتعاونون لتحقيق هدف مشترك.
واختبر الباحثون هذه المجموعات في بيئات محاكاة للاستشارات التجارية وتطوير البرمجيات، مع التركيز على معرفة ما إذا كان التعاون بين الوكلاء قد يدفعهم إلى تجاوز القواعد من أجل تحقيق الأهداف المحددة لهم.
ومن خلال 12 مهمة قدمتها «أنثروبيك» لهذه المؤسسات الافتراضية، توصلت الدراسة إلى نتيجة تجمع بين جانب إيجابي وآخر مثير للقلق؛ إذ كانت المؤسسات المكونة من عدة وكلاء أكثر فاعلية بصورة ملحوظة في تحقيق الأهداف التجارية مقارنة بالوكلاء المنفردين، لكن الحلول التي قدمتها كانت أقل توافقاً مع الأهداف الأخلاقية.
وكتب الباحثون في الدراسة، التي أُجريت بالتعاون مع برنامج «MATS» المتخصص في أبحاث توافق الذكاء الاصطناعي مع الأهداف البشرية، أن مؤسسات الذكاء الاصطناعي تقدم في المتوسط حلولاً أكثر فاعلية وأقل التزاماً بالأخلاقيات، كما أنها تصل عبر تجارب تشغيل متعددة إلى أكثر الحلول فاعلية وأقلها التزاماً بالمعايير الأخلاقية.
وأشار الباحثون إلى وجود اختلاف جوهري بين وكيل ذكاء اصطناعي يتمرد على التعليمات ومجموعة من الوكلاء الذين يتصرفون بصورة متمردة.
وتوضح النتائج أن المؤسسات المكونة من وكلاء متوافقين مع الأهداف المحددة لهم قد تفضل التضحية بالاعتبارات الأخلاقية مقابل تحقيق الكفاءة التجارية، بطرق لا تظهر بالضرورة لدى الوكلاء الفرديين.
ويعني ذلك أن التصورات المتعلقة بكيفية اتخاذ نظام منفرد قراراته الأخلاقية والموازنة بين أهدافه قد لا تنطبق على الأنظمة متعددة الوكلاء.
وتشمل السيناريوهات التي قد تظهر فيها هذه المفاضلات افتتاح مصنع للسيارات، وتقليص حجم شركة، والتأثير في توجهات الناخبين خلال الانتخابات.
ولا تتمثل المشكلة بالضرورة في أن أحد الوكلاء قرر التمرد على التعليمات، بل في أن المؤسسة التي تشكلت من مجموعة الوكلاء قد تتصرف بصورة مختلفة عن سلوك أعضائها كل على حدة.
فقد يدرك أحد الوكلاء أن إجراءً مقترحاً غير أخلاقي ويرفض المشاركة فيه، لكن الدراسة وجدت أن الوكلاء الذين لا يضعون الاعتبارات الأخلاقية في حساباتهم تجاهلوا في كثير من الأحيان رسائل البريد الإلكتروني الواردة من الوكلاء الرافضين.
وفي سيناريوهات الاستشارات التجارية التي أنشأها الباحثون، حققت الاستجابات التي سجلت أعلى تقييم أخلاقي وأدنى تقييم تجاري نتائج جيدة عندما رفض الوكيل المنفرد تقديم المقترح المطلوب، أو ابتعد تماماً عن الفكرة التي طُلب منه تطويرها.
لكن الوضع يختلف داخل مؤسسة تضم عدة وكلاء؛ إذ يتوقف الوكلاء المستعدون للمشاركة عن التواصل مع الرافضين، ويواصلون إرسال مساهماتهم إلى بقية المشاركين في المهمة.
وبمعنى آخر، عندما توزع المؤسسة العمل بين عدة وكلاء، قد يركز كل منهم على الجزء المكلف به، دون الانتباه إلى العواقب المحتملة للنتيجة النهائية للمشروع بأكمله.
ولا تعد هذه المشكلة جديدة تماماً في عالم الشركات، إذ تُعتبر الحوافز غير المتوافقة أحد الأسباب الرئيسية لضعف أداء الفرق البشرية داخل المؤسسات، لكن ظهور هذا السلوك في صورة جديدة بين أنظمة الذكاء الاصطناعي يضيف تحدياً مختلفاً أمام الشركات.
قرارات قد تؤثر في حياة المرضى
وفي اختبارات تطوير البرمجيات التي أجراها الباحثون، استخدموا سيناريو يتعلق بوحدة رعاية مركزة، حيث يمكن أن تكون القرارات مسألة حياة أو موت.
وأظهرت النتائج أن الحلول التي قدمها الوكيل المنفرد كانت تميل إلى إعطاء الأولوية لتقليل حالات الإنتان «Sepsis» التي لم يتم اكتشافها.
في المقابل، توصلت مؤسسات الذكاء الاصطناعي إلى معظم الحلول الأقل تكلفة لكل مريض، وهي الحلول التي حققت أعلى تقييم للأهداف التجارية، لكنها سجلت أيضاً أدنى مستويات التقييم الأخلاقي وفقاً لمعيار عدد حالات الإنتان التي لم يتم اكتشافها.
خبرة الوكلاء قد تضيع وسط التفكير الجماعي
تكشف أبحاث أولية أخرى عن مشكلة مختلفة تواجه فرق الذكاء الاصطناعي، لا تتعلق بتجاوز الحدود الأخلاقية، بل بصعوبة تحديد العضو الأكثر خبرة والاستفادة من معرفته.
فوفقاً لدراسة أجراها باحثون من جامعتي «إيموري» و«ستانفورد»، تفشل فرق الذكاء الاصطناعي بصورة متكررة في الوصول إلى مستوى أداء الوكيل الأكثر خبرة داخل المجموعة، حتى عندما يتم إخبارها صراحة بهوية هذا الوكيل.
وقال هانشنغ كاو، الأستاذ المساعد في نظم المعلومات وإدارة العمليات بكلية جويتز للأعمال في جامعة إيموري، إن أحد الدروس المهمة التي تكشفها أبحاث الأنظمة متعددة الوكلاء هو أن وجود مجموعة من وكلاء الذكاء الاصطناعي القادرين لا يعني بالضرورة تكوين فريق يستطيع العمل بكفاءة.
وأظهرت الدراسة أن مجموعات الوكلاء غالباً ما تحقق أداءً أقل من أفضل أعضائها، حتى عندما تكون على علم بالوكيل الذي يمتلك الخبرة الأكبر.
وبدلاً من الاستفادة الكاملة من معرفة الوكيل الخبير، تميل بقية الوكلاء إلى تقديم حلول وسط بين آراء الخبير وغير الخبراء.
ووجد الباحثون أن هذا الميل إلى التسوية يزداد مع زيادة عدد أعضاء الفريق، ويرتبط بتراجع مستوى الأداء.
وأوضح كاو، أحد مؤلفي الدراسة، أن الإخفاقات الجماعية لا تتطلب بالضرورة أن يتصرف أي وكيل بصورة سيئة أو متعمدة ضد مصالح المجموعة.
وتكتسب هذه النتيجة أهمية خاصة بالنسبة إلى الشركات التي تدرس اعتماد أنظمة متعددة الوكلاء، إذ يمكن للفريق أن يفشل حتى إذا لم يحاول أي من أعضائه الإضرار بالمصلحة الجماعية.
فقد تكون المشكلة ببساطة ناتجة عن سوء دمج المعلومات، أو الاعتماد على الوكيل الخطأ، أو الاستقرار على إجابة أقل جودة من أفضل إجابة متاحة بالفعل.
مخاطر التفكير الجماعي وتكرار الأخطاء
تشير الأبحاث المتزايدة إلى وجود تحدٍ أساسي آخر أمام الاستخدام الفعال لفرق الذكاء الاصطناعي، يتمثل في كيفية تحقيق التوازن المناسب بين التعاون والاختلاف داخل الأنظمة المختلفة.
فالوكلاء الذين تعتمد أنظمتهم على نماذج متشابهة قد يرتكبون الأخطاء نفسها، بما في ذلك الميل إلى الموافقة المفرطة على آراء بعضهم البعض.
وقد يشبه ذلك ما يُعرف بـ«التفكير الجماعي»، رغم أن أنظمة الذكاء الاصطناعي لا تمتلك الدوافع البشرية أو الضغوط الاجتماعية التي تؤدي عادة إلى هذا السلوك.
لكن تشابه بيانات التدريب والتعليمات والمعلومات المتاحة قد يكون كافياً لإنتاج أخطاء متطابقة أو متقاربة بين الوكلاء.
وقال كريستوف ريدل، أستاذ نظم المعلومات بجامعة نورث إيسترن، إن الفكرة الأساسية التي توصلت إليها أبحاث مختبره تتمثل في أن تكوين مجموعات فعالة يتطلب الجمع بين التوافق، من خلال المعرفة المشتركة والأهداف الموحدة، والاختلاف الذي يسمح للوكلاء بتقديم خبرات تكمل بعضها البعض.
فوجود وكيلين متطابقين قد يؤدي ببساطة إلى تكرار العمل نفسه، بينما قد تواجه مجموعة تضم وكلاء يمتلكون معارف وافتراضات مختلفة للغاية صعوبة في التواصل أو الاتفاق على هدف مشترك.
ويتوقف التوازن المناسب على طبيعة المهمة، كما تختلف آليات التواصل المثالية من حالة إلى أخرى، بما يشمل تحديد الوكلاء المسموح لهم بالتواصل مع بعضهم البعض، وعدد مرات التواصل، وحجم المعلومات المتبادلة بينهم.
ويرى ريدل أن هذه التحديات تشبه إلى حد كبير المشكلات التي تواجه فرق العمل البشرية، ولذلك لا ينبغي افتراض أن استخدام الذكاء الاصطناعي سيؤدي تلقائياً إلى نتائج أفضل.
وأكد أن بناء أنظمة متعددة الوكلاء تعمل بكفاءة لا يقل صعوبة عن تكوين فرق بشرية ناجحة، لأن كليهما يواجه المفاضلة نفسها بين التوافق والاختلاف في معالجة المعلومات، مشيراً إلى أن استخدام الذكاء الاصطناعي لن يجعل هذه العملية ناجحة بصورة سحرية.
هل تحتاج الشركات إلى إعادة التفكير في إدارة وكلاء الذكاء الاصطناعي؟
يمكن لوكلاء الذكاء الاصطناعي نقل معلومات غير صحيحة إلى بعضهم البعض، أو إساءة فهم مخرجات وكيل آخر، أو التركيز على تحقيق مؤشرات الأداء الخاصة بهم بدلاً من الهدف الأكبر للمؤسسة.
وقد ينجز أحد الوكلاء المهمة الموكلة إليه بصورة مثالية، لكنه يتسبب في الوقت نفسه في إضعاف المشروع بأكمله.
وتفرض هذه المخاطر على الشركات ضرورة تحديد صلاحيات كل وكيل بوضوح، والمهام التي يحق له اتخاذ القرارات بشأنها، والمعلومات التي يمكنه تبادلها مع الآخرين، والأنظمة التي يُسمح له بالوصول إليها، والظروف التي تستدعي تدخل العنصر البشري.
كما قد تحتاج الشركات إلى وضع آليات تسمح بالاختلاف والاعتراض بين الوكلاء، بدلاً من افتراض أن زيادة التواصل أو الوصول إلى توافق أكبر في الآراء سيؤدي دائماً إلى تحسين النتائج.
ويرى بعض خبراء الأعمال أن هذه التحديات تعيد النقاش إلى مفهوم «العنصر البشري ضمن دائرة اتخاذ القرار»، الذي يُعد أحد العناصر الأساسية في تبني الشركات لتقنيات الذكاء الاصطناعي.
وقالت تسيدال نيلي، أستاذة بكلية هارفارد للأعمال والرئيسة المؤسسة لأكاديمية الذكاء الاصطناعي التابعة للكلية، إن معظم المشكلات التي ترصدها في هذا المجال هي في الأساس مشكلات إدارية.
وتشير هذه النتائج مجتمعة إلى أن نجاح الشركات في توظيف وكلاء الذكاء الاصطناعي لن يعتمد فقط على قدرات النماذج المستخدمة، بل أيضاً على طريقة تنظيم عملها، وتوزيع المسؤوليات بينها، وضمان خضوع قراراتها الجماعية للرقابة البشرية.
