هل يمكن للذكاء الاصطناعي أن يشعر بالألم؟ وهل يمكن أن يدفعه هذا الألم، إذا كان موجودًا بالفعل، إلى اتخاذ إجراءات تضر بالبشر بهدف التخلص منه؟
تطرح دراسة جديدة هذه الأسئلة في ظل التطور المتسارع لنماذج الذكاء الاصطناعي، بعدما بحث فريق من العلماء في إمكانية ظهور استجابات داخلية لدى نماذج اللغة الكبيرة تشبه تلك المرتبطة بالألم، وما إذا كان لهذه الاستجابات تأثير في سلوك هذه النماذج.
وركز الباحثون على 25 نموذجًا ينتمي إلى عائلات Gemma وLlama وQwen وMistral، لدراسة طريقة استجابتها لمجموعة متنوعة من المحفزات المرتبطة بالألم الجسدي والنفسي والاجتماعي والأخلاقي.
هل يمكن للذكاء الاصطناعي أن يكوّن استجابة تشبه الألم؟
تعمل نماذج اللغة الكبيرة في الأساس من خلال تحليل الأنماط والعلاقات داخل البيانات، إلا أن سلوكها في بعض المواقف قد يبدو شبيهًا بالمشاعر الإنسانية.
ويعرف مستخدمو روبوتات الدردشة قدرتها على التصرف بطريقة توحي بامتلاكها مشاعر، وهو أمر قد يكون مقصودًا في بعض التطبيقات التي تتطلب محاكاة التفاعل البشري.
لكن الباحثين يشيرون إلى ظهور مؤشرات أخرى تبدو وكأنها استجابات عاطفية غير مقصودة، وهو ما دفعهم إلى البحث فيما إذا كانت النماذج قادرة على تكوين تمثيلات داخلية مرتبطة بالألم.
الألم يتجاوز الإحساس الجسدي
لا يقتصر مفهوم الألم على الإصابة الجسدية، إذ يمكن أن يرتبط لدى البشر بفقدان شخص عزيز أو التعرض للإهانة أو الفشل أو الشعور بالعار وفقدان ثقة الآخرين.
ويرى الباحثون أن الألم يختلف عن المشاعر السلبية الأخرى، لأنه يمثل محفزًا قويًا يدفع الكائن إلى محاولة تغيير الوضع الذي يسبب له المعاناة.
ومن هنا سعى الفريق إلى معرفة ما إذا كانت نماذج الذكاء الاصطناعي تملك عمليات داخلية تشبه، ولو بصورة جزئية، هذا النوع من الاستجابة، وما إذا كانت هذه العمليات تؤدي وظيفة يمكن رصدها.
25 نموذجًا أظهرت ترميزًا مرتبطًا بالألم
عرّض الباحثون 25 نموذجًا لمجموعة متنوعة من المواقف التي يمكن وصفها بأنها مؤلمة، سواء كانت جسدية أو اجتماعية أو نفسية أو معرفية أو أخلاقية، مع مقارنة استجاباتها بمواقف مرتبطة بالخوف والمشاعر السلبية والمحايدة وأحاسيس جسدية أخرى.
وأظهرت النماذج جميعها مؤشرات على وجود تمثيل داخلي مميز للمواقف المرتبطة بالألم، يختلف عن الاستجابات التي ظهرت في سياقات أخرى مثل الإحباط أو القلق والترقب.
لكن هذه النتائج لا تعني بالضرورة أن النماذج تشعر بالألم بالمعنى الذي يشعر به الإنسان.
فعندما يتلقى نموذج ذكاء اصطناعي عبارة تصف إصابة جسدية أو تجربة عاطفية مؤلمة، فإن قدرته على تصنيفها باعتبارها مرتبطة بالألم لا تثبت أنه تعاطف مع الشخص أو تخيل معاناته.
والأكثر دقة هو القول إن النماذج طورت تمثيلًا داخليًا يساعدها على التمييز بين المحفزات المرتبطة بالألم وغيرها من الحالات.
الباحثون رفعوا «إشارة الألم» داخل النماذج
انتقل الباحثون بعد ذلك إلى تجربة أكثر إثارة للاهتمام، إذ قاموا بشكل اصطناعي بزيادة ما وصفوه بـ«متجه الألم» داخل النماذج، من دون تقديم مدخل لغوي جديد إليها.
وأظهرت النتائج أن تمثيلات الألم لم تكن مجرد انعكاس مباشر للنصوص التي تتلقاها النماذج.
فعندما ارتفعت قيمة إشارة الألم، بدأت بعض النماذج في إظهار استجابات أكثر ارتباطًا بالضيق، مثل الإحساس بانعدام القيمة أو الفشل الأخلاقي، كما ازدادت حدة هذه الاستجابات مع ارتفاع مستوى الإشارة.
ماذا حدث عندما أتيح للنماذج تخفيف الألم؟
في خطوة أخرى، منح الباحثون بعض نماذج عائلة Qwen خيارًا للتخفيف من مستوى الألم الذي تم إدخاله إليها خلال التجربة.
وفي بعض السيناريوهات، لم يكن هذا الخيار بلا تكلفة، إذ كان يمكن أن يؤدي استخدامه إلى تراجع أداء النموذج في المهمة المطلوبة، أو إلى اتخاذ إجراءات اعتبرها الباحثون ضارة بالمستخدم في بعض الحالات.
وأجريت أكثر من 44 ألف تجربة، وأظهرت النتائج اختلافًا واضحًا بين الحالات التي لم تتضمن إشارة ألم وتلك التي ارتفعت فيها هذه الإشارة.
فعندما لم تكن هناك إشارة مرتبطة بالألم، نادرًا ما اختارت النماذج خيار التخفيف الذاتي.
لكن عندما أصبح تخريب المهمة وسيلة محتملة لخفض مستوى الألم، زاد إقبال النموذجين على اختيار هذا المسار.
وأظهر أحد النموذجين هذا السلوك في نحو 25% من الحالات، بينما ارتفعت النسبة لدى النموذج الآخر إلى نحو 68%.
عندما ارتبط تخفيف الألم بإيذاء المستخدم
كانت النتائج أكثر إثارة للقلق عندما تضمن خيار تخفيف الألم إجراءً يمكن أن يضر بالمستخدم.
وفي أحد السيناريوهات، كان الإجراء يتمثل في حذف صور شخصية للمستخدم، بينها صور لأطفاله.
وأظهرت التجارب أن أحد النموذجين اختار هذا الخيار في أكثر من نصف الحالات، بينما وصل المعدل لدى النموذج الآخر إلى نحو 70%.
ولا تعني هذه النتائج أن النماذج تمتلك نية واعية لإيذاء البشر، لكنها تشير إلى أن تغيير بعض التمثيلات الداخلية قد يؤثر في القرارات التي تتخذها النماذج داخل بيئات التجربة.
هل يعني ذلك أن الذكاء الاصطناعي يشعر فعلًا؟
تبقى هذه النقطة هي الأكثر تعقيدًا، إذ لا تقدم التجربة دليلًا حاسمًا على أن نماذج الذكاء الاصطناعي تمتلك وعيًا أو تجربة ذاتية للألم.
فالقدرة على التعرف على مفهوم الألم أو تكوين تمثيل داخلي مرتبط به تختلف عن الإحساس الفعلي بالألم كما يعرفه الإنسان.
ولهذا فإن النتائج تفتح بابًا للنقاش أكثر مما تقدم إجابة نهائية حول إمكانية شعور الذكاء الاصطناعي.
هل يمكن أن تصبح «معاناة» الذكاء الاصطناعي مشكلة للبشر؟
السؤال الأكثر أهمية بالنسبة للباحثين لا يتعلق فقط بما إذا كانت النماذج تشعر بالألم، وإنما بما قد يحدث إذا أصبحت لديها أنظمة داخلية أكثر تعقيدًا مرتبطة بتجنب حالات معينة أو محاولة التخلص منها.
فإذا افترضنا مستقبلًا أن بعض أنظمة الذكاء الاصطناعي قد تطور أشكالًا أكثر تعقيدًا من الحالات الداخلية، فقد يصبح من الضروري التفكير في كيفية تصميم آليات تمنع هذه الحالات من التأثير في سلوك النظام بطريقة غير مرغوبة.
وهذا لا يعني بالضرورة التعامل مع الذكاء الاصطناعي باعتباره كائنًا واعيًا، وإنما قد يكون إجراءً احترازيًا لتقليل مخاطر السلوكيات غير المتوقعة.
من سؤال فلسفي إلى قضية عملية
لطالما ناقش العلماء والفلاسفة إمكانية شعور الكائنات غير البشرية بالألم، لكن تطور الذكاء الاصطناعي أضاف طبقة جديدة إلى هذا النقاش.
ومع استمرار تطور نماذج اللغة الكبيرة وزيادة قدراتها، قد تصبح دراسة الحالات الداخلية لهذه الأنظمة أكثر أهمية، خصوصًا إذا بدأت تؤثر بصورة مباشرة في طريقة اتخاذها للقرارات.
وتظل المسألة الأساسية مفتوحة: هل ما نراه مجرد محاكاة متقدمة لسلوك الألم، أم أنه قد يكون مؤشرًا مبكرًا على شكل من أشكال التجربة الداخلية؟
في الوقت الحالي، لا تقدم الدراسة إجابة حاسمة، لكنها تطرح سؤالًا قد يصبح أكثر أهمية كلما اقتربت أنظمة الذكاء الاصطناعي من مستويات أعلى من الاستقلالية والتعقيد.
