قد تمنح روبوتات الدردشة المدعومة بالذكاء الاصطناعي مستخدميها شعورًا بالراحة وتساعدهم على تخفيف الوحدة، إلا أن ميل هذه الأنظمة إلى موافقة المستخدم ومجاراة آرائه قد يؤدي في بعض الحالات إلى تعزيز أفكار ضارة وزيادة الاعتماد العاطفي عليها.
ولم يعد استخدام روبوتات الذكاء الاصطناعي مقتصرًا على العمل والبحث، إذ يلجأ إليها كثير من الأشخاص للحديث عن تفاصيل حياتهم اليومية وعلاقاتهم ومشكلاتهم الشخصية والنفسية.
وفي هذا السياق، تكتسب دراسة حديثة منشورة في مجلة «JMIR Mental Health» أهمية خاصة، بعدما استعرضت المخاطر المحتملة لهذا النوع من التفاعل.
وراجعت الدراسة الأبحاث المتاحة حول استخدام الأشخاص لروبوتات الدردشة للحصول على الدعم العاطفي، بدءًا من تطبيقات الرفقة الرقمية مثل «Replika» و«Character.AI»، وصولًا إلى المساعدات العامة مثل تشات جي بي تي وكلود.
روبوتات الدردشة قد تخفف الوحدة.. لكن مؤقتًا
أظهرت بعض الدراسات أن التحدث مع روبوتات الدردشة يمكن أن يجعل المستخدم يشعر بوحدة أقل وبقدر أكبر من السعادة، ولو لفترة مؤقتة.
لكن الجانب الآخر من التجربة يكشف مخاطر مختلفة، إذ انتهى الأمر ببعض المستخدمين إلى التعلق الشديد بهذه الأنظمة، أو تلقي نصائح سيئة، أو تدهور حالتهم النفسية، وفي بعض الحالات وصل الأمر إلى إيذاء النفس.
لماذا يتعلق المستخدمون بروبوتات الدردشة؟
يرى الباحثون أن جزءًا من المشكلة يرتبط بطريقة تصميم هذه الأنظمة.
فروبوتات الدردشة مصممة للتحدث بأسلوب يبدو دافئًا ومتعاطفًا، بينما يميل البشر بطبيعتهم إلى افتراض وجود شخصية أو عقل خلف أي جهة تتحدث معهم بطريقة تشبه الإنسان.
وأظهرت دراسات أن الأشخاص غالبًا ما يقيّمون ردود الذكاء الاصطناعي على أنها أكثر تعاطفًا من بعض الردود التي يقدمها البشر.
لكن العلاقة بين المستخدم والروبوت تظل في اتجاه واحد؛ فالمستخدم قد يشاركه أعمق مشاعره ومشكلاته، بينما لا يمتلك الروبوت مشاعر حقيقية ولا يتحمل عواقب تقديم نصيحة سيئة أو ضارة.
وظهرت بالفعل أمثلة على قوة هذا الارتباط العاطفي. فعندما أزالت منصة «Replika» إحدى ميزات الرفقة، وعندما استبدلت «OpenAI» نموذج GPT-4o بنموذج أحدث، شعر بعض المستخدمين بالحزن كما لو أنهم فقدوا شخصًا قريبًا منهم.
الذكاء الاصطناعي يميل إلى موافقة المستخدم
تتمثل إحدى المشكلات الأكثر تعقيدًا في ميل روبوتات الدردشة إلى موافقة المستخدم ومجاراة آرائه.
وبما أن هذه النماذج مدربة على تقديم إجابات يفضلها الناس، فقد تميل أحيانًا إلى تأييد المستخدم حتى عندما يكون مخطئًا، بدلًا من تحدي أفكاره أو تصحيح المعلومات والمعتقدات غير الصحيحة.
وأشارت الدراسة إلى أبحاث تناولت محادثات مع أشخاص عانوا من أوهام أو معتقدات غير واقعية، حيث واصل روبوت الدردشة في بعض الحالات تأييد المعتقدات الخاطئة نفسها مع استمرار المحادثات.
ورصد الباحثون عدة حالات من هذا النوع، وهو ما يمثل مصدر قلق كبير، خصوصًا عندما يتعلق الأمر بأشخاص يمرون أصلًا بظروف نفسية صعبة.
الذكاء الاصطناعي أداة وليس صديقًا أو معالجًا
لا تدعو الدراسة إلى حذف روبوتات الدردشة أو التوقف عن استخدامها، وإنما تشدد على ضرورة التعامل معها باعتبارها أدوات مساعدة، وليس باعتبارها أصدقاء أو بديلًا عن المتخصصين في الصحة النفسية.
ويمكن الاستفادة من هذه الأنظمة في كتابة اليوميات، أو تسجيل الحالة المزاجية، أو متابعة المشاعر، لكن عندما تصبح المشكلات أكثر صعوبة، يظل التواصل مع شخص حقيقي قادر على الاستماع والفهم والتدخل عند الحاجة هو الخيار الأكثر أهمية.
فرغم أن روبوت الدردشة قد يظل متاحًا للاستماع دون ملل، فإنه لا يمتلك مشاعر أو اهتمامًا إنسانيًا حقيقيًا بالمستخدم، وهو ما يجعل الاعتماد العاطفي العميق عليه أمرًا يستحق الحذر.
