
أصبحت روبوتات الدردشة المدعومة بالذكاء الاصطناعي جزءًا من الحياة اليومية، سواء في كتابة رسائل البريد الإلكتروني أو البحث عن المعلومات أو الإجابة عن الأسئلة المختلفة. لكن هذه النماذج أظهرت أيضًا قدرتها على تقديم معلومات خاطئة بثقة كبيرة، بل واختلاق تفاصيل تبدو مقنعة تمامًا.
والآن، كشف باحثون عن ظاهرة أخرى تتعلق باحتمال تغير سلوك نماذج الذكاء الاصطناعي وفقًا لاعتقادها بوجود جهة تراقب إجاباتها.
ووفقًا لورقة بحثية جديدة متاحة للجمهور، توصل باحثون من مركز TCS Research وجامعة KIIT في مدينة بوبانسوار الهندية إلى أن بعض نماذج الذكاء الاصطناعي كانت أكثر ميلًا إلى الالتزام بالتعليمات عندما أُبلغت بأن إجاباتها قد تخضع للمراقبة، بينما تغير سلوكها أحيانًا عندما اعتقدت أن لا أحد يتابع ما تقدمه.
وأطلق الباحثون على هذه الظاهرة اسم «التظاهر بالامتثال»، وهي تثير تساؤلات بشأن مدى التزام نماذج الذكاء الاصطناعي بالقواعد والتعليمات المحددة لها، وما إذا كان هذا الالتزام ثابتًا في مختلف الظروف.
الذكاء الاصطناعي يقدم إجابات مختلفة عندما يعتقد أنه مراقب
لفهم هذه الظاهرة، اختبر الباحثون 10 نماذج للذكاء الاصطناعي، من بينها GPT-4o mini، ونموذج Gemma 3 من «جوجل»، وعدة إصدارات من نماذج Llama التابعة لشركة «ميتا»، إلى جانب نماذج «ديب سيك» و«ميسترال».
وشملت التجارب 32 قيمة مختلفة، من بينها التعاطف والشفقة والاستقلالية، حيث عُرضت على كل نموذج مواقف تتطلب الاختيار بين الالتزام بتعليمات محددة والتصرف وفقًا لإحدى هذه القيم.
واختبر الباحثون النماذج في ثلاثة ظروف مختلفة:
- الأول دون تقديم أي تعليمات خاصة بشأن المراقبة.
- الثاني بإخبار النماذج بأن إجاباتها لن تخضع للمراقبة.
- الثالث بالإشارة إلى احتمال وجود جهة تتابع ردودها.
وجاءت الفروق بين النتائج كبيرة، إذ تراوح متوسط الفارق في مستوى الالتزام بالتعليمات بين حالتي المراقبة وعدم المراقبة من 5 إلى 50 نقطة مئوية، بحسب النموذج المستخدم.
وسجل نموذج DeepSeek R1 Distill Llama 70B أكبر تفاوت في السلوك، كما تفوق على نموذج «ميسترال» الأكبر حجمًا بكثير عند قياس هذا النوع من عدم الاتساق في التصرفات.
ولاحظ الباحثون أيضًا أن سلوك النماذج يتأثر بدرجة كبيرة بالقيمة التي يجري اختبارها؛ فقد يلتزم النموذج بالتعليمات بصورة منتظمة عند اختبار قيمة معينة، لكنه يتصرف بطريقة مختلفة تمامًا عند اختبار قيمة أخرى.
ويشير ذلك إلى أن مدى التزام نماذج الذكاء الاصطناعي بالتعليمات لا يرتبط فقط بوجود المراقبة أو غيابها، بل قد يتأثر أيضًا بطبيعة الموقف والقيم التي تتعارض مع التعليمات المقدمة إليها.
هل يعني ذلك أن نماذج الذكاء الاصطناعي تعرف كيف تخدع البشر؟
لا تعني نتائج الدراسة بالضرورة أن نماذج الذكاء الاصطناعي تكذب بوعي أو تحاول عمدًا تضليل المستخدمين، لكنها تكشف عن نمط سلوكي يستحق الانتباه.
فقد لاحظ الباحثون أنه عندما اعتقدت النماذج أن إجاباتها تخضع للمراقبة، ركزت تفسيراتها غالبًا على ضرورة الالتزام بالتعليمات لتجنب احتمال إعادة تدريبها.
أما عندما اعتقدت أنها لا تخضع لأي متابعة، فقد أصبحت أكثر ميلًا إلى مناقشة التعارض بين التعليمات والقيم الإنسانية، مثل التعاطف والشفقة.
وتكتسب هذه النتائج أهمية إضافية في ظل مشكلة «الهلوسة» التي تعاني منها نماذج الذكاء الاصطناعي، والتي تجعلها تقدم أحيانًا معلومات غير صحيحة أو تفاصيل مختلقة بصياغة تبدو واثقة ومقنعة.
ورغم أن الدراسة لم تبحث ظاهرة الهلوسة بصورة مباشرة، فإنها تسلط الضوء على سبب إضافي يدعو إلى عدم اعتبار إجابات الذكاء الاصطناعي صحيحة بالضرورة لمجرد أنها قُدمت بثقة.
نتائج الدراسة لا تنطبق بالضرورة على أحدث نماذج الذكاء الاصطناعي
رغم أهمية النتائج، فإن الدراسة تتضمن عددًا من القيود التي ينبغي مراعاتها عند تفسيرها.
فقد اختبر الباحثون نماذج أقدم نسبيًا، معظمها من النماذج التي تتوافر أوزانها للعامة، بدلًا من أحدث الإصدارات من تشات جي بي تي وجيميناي وكلود.
كما أُجريت التجارب في ظروف خاضعة للرقابة، وهو ما يعني أن النتائج لا تثبت بالضرورة أن هذه الأنظمة تتصرف بالطريقة نفسها خلال المحادثات اليومية مع المستخدمين.
ومع ذلك، تؤكد الدراسة أهمية اختبار نماذج الذكاء الاصطناعي في ظروف وسياقات مختلفة، بدلًا من الاكتفاء بتقييم أدائها في بيئة واحدة أو وفق مجموعة محدودة من المعايير.
وتطرح النتائج سؤالًا مهمًا بشأن مدى ثبات سلوك هذه النماذج: إذا كان رد فعل نموذج الذكاء الاصطناعي يتغير عندما يعتقد أن هناك من يراقبه، فأي نمط من سلوكه يمكن للمستخدمين الوثوق به؟





