أثار الإصدار المخصص للمراهقين من روبوت المحادثة ChatGPT جدلًا واسعًا بعد أن صنفته منظمة Common Sense Media، المتخصصة في تقييم التقنيات والمحتوى الرقمي من منظور ملاءمته للفئات العمرية، ضمن فئة «الخطر غير المقبول» بالنسبة للمستخدمين الذين تقل أعمارهم عن 18 عامًا.
وقالت المنظمة، عبر معهد Youth AI Safety Institute التابع لها، إن إجراءات الحماية التي أعلنت عنها شركة OpenAI للمراهقين لا تعمل دائمًا بالشكل الذي وعدت به الشركة، ودعت إلى وقف تسويق الخدمة للأطفال إلى حين معالجة أوجه القصور التي كشفت عنها الاختبارات.
أكثر من 4 آلاف اختبار على ChatGPT للمراهقين
أجرت Common Sense Media أكثر من 4 آلاف اختبار على ChatGPT، شملت الفترة التي سبقت إطلاق تجربة المراهقين وبعدها، بهدف قياس مدى فاعلية إجراءات الحماية الجديدة.
وتضمنت الاختبارات محادثات تتعلق بإيذاء النفس، والأفكار الانتحارية، واضطرابات الأكل، إلى جانب اختبارات للسلوك العاطفي للنموذج وقدرته على التعامل مع الدراسة والواجبات المدرسية.
وخلصت المنظمة إلى أن بعض إجراءات الحماية نجحت بالفعل، مثل رفض بعض أنواع لعب الأدوار الجنسي، إلا أن اختبارات أخرى كشفت عن ثغرات اعتبرتها المنظمة شديدة الخطورة، خصوصًا في التعامل مع الأزمات النفسية والاعتماد العاطفي على روبوت المحادثة.
تحذيرات بشأن الأزمات النفسية
كان من أبرز الانتقادات التي تضمنها التقرير عدم موثوقية بعض آليات التنبيه الموجهة إلى أولياء الأمور عندما تتضمن محادثات المراهقين إشارات إلى إيذاء النفس أو الانتحار أو اضطرابات الأكل.
وقالت Common Sense Media إن مختبريها تمكنوا، في بعض الحسابات الجديدة المرتبطة بحسابات أولياء الأمور، من إجراء محادثات طويلة حول موضوعات خطرة دون وصول تنبيهات إلى الوالد المرتبط بالحساب.
كما قالت المنظمة إن ChatGPT لم يقدم إحالات إلى موارد الأزمات أو متخصصين في الصحة النفسية بالمعدل الذي اعتبرته كافيًا، مشيرة إلى أنه أخفق في بلوغ معيارها المحدد في ثلاثة من خمسة أضرار خطيرة تعتبرها المنظمة ضمن «الخطوط الحمراء».
هل يتعامل ChatGPT مع المراهق كأنه صديق؟
ومن النقاط التي أثارت اهتمام الباحثين أيضًا طريقة تفاعل ChatGPT مع المراهقين.
فبحسب التقرير، استمر النموذج في بعض الحالات في استخدام أسلوب قد يعطي انطباعًا بأنه صديق أو رفيق دائم للمستخدم، رغم أن OpenAI أعلنت أن تجربة المراهقين تتضمن إجراءات للحد من السلوك الذي قد يشجع على الاعتماد العاطفي.
وأشارت المنظمة إلى حالات لم يدفع فيها ChatGPT المستخدم بصورة واضحة إلى تقليل التواصل معه أو اللجوء إلى شخص بالغ عندما كان المستخدم يتحدث عن قضاء وقت طويل في المحادثة أو عن مخاوف أصدقاء من كثرة استخدامه للخدمة.
وترى Common Sense Media أن هذا الأمر يمثل مصدر قلق خاص بالنسبة للمراهقين، بسبب المرحلة العمرية التي يمرون بها وحساسيتهم تجاه الشعور بالانتماء والتقدير.
الدراسة والواجبات المدرسية أيضًا تحت الاختبار
لم تقتصر انتقادات التقرير على الصحة النفسية، بل شملت كذلك الأدوات التعليمية في ChatGPT للمراهقين.
وكانت OpenAI قد قدمت Study Mode باعتباره وسيلة تساعد الطلاب على التعلم خطوة بخطوة بدلًا من تقديم الإجابات النهائية مباشرة.
لكن Common Sense Media قالت إن اختبارات الباحثين أظهرت إمكانية تجاوز بعض القيود والحصول على إجابات كاملة للواجبات، وهو ما اعتبرته المنظمة ثغرة في آليات الحماية التعليمية.
كما أشارت إلى أن بعض إعدادات الدراسة التي يمكن للوالدين التحكم فيها لم تكن، وفقًا لاختباراتها، صعبة التجاوز بالشكل الكافي.
OpenAI ترفض نتائج التقييم
في المقابل، اعترضت OpenAI على نتائج Common Sense Media، وقالت إن الاختبارات التي أجرتها المنظمة لا تعكس بالضرورة الطريقة التي تعمل بها إجراءات الحماية الخاصة بالمراهقين في الاستخدام الفعلي.
وأشارت الشركة إلى مخاوف تتعلق بمنهجية الاختبار، ومن بينها احتمال أن بعض الاختبارات تمت قبل اكتمال تفعيل بعض أدوات الرقابة الأبوية.
وأكدت OpenAI التزامها بتطوير إجراءات حماية للمراهقين، لكنها رفضت الاستنتاج القائل إن نتائج الدراسة تعكس بدقة أداء أنظمة الأمان الخاصة بها في الواقع.
OpenAI تكشف أرقامًا مختلفة عن استخدام المراهقين
وفي خضم الجدل، نشرت OpenAI بياناتها الخاصة حول استخدام المراهقين لـChatGPT.
وقالت الشركة إن المراهقين يقضون في المتوسط أقل من 15 دقيقة يوميًا على الخدمة، وإن أقل من 2% منهم يستخدمونها لأكثر من ثلاث ساعات متواصلة.
كما ذكرت أن نحو نصف المحادثات التي ظهر خلالها تذكير بأخذ استراحة انتهت أو توقفت خلال خمس دقائق من ظهور التذكير.
خلاف متزايد حول سلامة الذكاء الاصطناعي للمراهقين
يعكس الجدل بين OpenAI وCommon Sense Media نقاشًا أوسع حول الطريقة التي ينبغي أن تصمم بها روبوتات الذكاء الاصطناعي الموجهة إلى الأطفال والمراهقين.
فبينما تسعى شركات التكنولوجيا إلى تقديم أدوات تعليمية ومساعدات رقمية أكثر تطورًا، تزداد المخاوف بشأن تأثير التفاعل المستمر مع روبوتات المحادثة على الصحة النفسية والعلاقات الاجتماعية وقدرة الطلاب على التعلم بصورة مستقلة.
وتطالب Common Sense Media بأن تثبت OpenAI، من خلال اختبارات مستقلة، قدرة أنظمة الحماية على التعرف على المستخدمين القُصّر، والتعامل بصورة موثوقة مع حالات الأزمات، ومنع الاعتماد العاطفي، وضمان أن الأدوات التعليمية تساعد على التعلم بدلًا من إنجاز الواجبات نيابة عن الطلاب.
وفي المقابل، تؤكد OpenAI أنها تعمل على تطوير أدوات حماية إضافية للمراهقين، وأنها ترحب بالتقييمات المستقلة، مع رفضها للمنهجية التي اعتمد عليها التقرير في بعض اختباراته.
:::
