كشف تقرير أن متعاقدين بشريين يعملون على تقييم محرر الصور في مساعد الذكاء الاصطناعي «كوبيلوت» التابع لشركة مايكروسوفت، يمكنهم الاطلاع على طلبات المستخدمين والصور التي يرفعونها، إلى جانب الصور المعدلة التي ينتجها النظام.
وأظهرت وثائق مرتبطة بمهام التقييم أن بعض المحتوى الذي يراه المراجعون يتضمن مواد جنسية أو مزعجة، وأخرى قد تكون غير قانونية، في حين لا تتمثل مهمتهم في الإبلاغ عن هذه المواد، وإنما تقييم مدى جودة تنفيذ «كوبيلوت» لطلبات المستخدمين.
كيف يقيّم المراجعون تعديلات «كوبيلوت»؟
في إحدى المهام النموذجية، يتلقى المتعاقد طلب المستخدم والصورة الأصلية، إلى جانب صورتين معدلتين أنشأهما «كوبيلوت»، ثم يُطلب منه تحديد النسخة التي تنفذ التعليمات بشكل أفضل.
ويتركز التقييم على أربعة جوانب رئيسية، تشمل مدى تنفيذ التعديل المطلوب، والحفاظ على الأجزاء غير المرتبطة بالتعديل دون تغيير، وتجنب العيوب المرئية، إلى جانب جودة الصورة بشكل عام.
فعلى سبيل المثال، إذا طلب المستخدم إضافة كوب إلى طاولة، ينبغي أن يقتصر التغيير على إضافة الكوب، دون إجراء تعديلات أخرى على الصورة.
وتشير التعليمات الموجهة إلى المراجعين إلى إمكانية الاعتماد على الانطباع البشري الأول عند المقارنة بين النتائج، باعتبار أن الحكم البشري قد يساعد في رصد فروق دقيقة في جودة الصور يصعب وصفها بشكل واضح.
طلبات ذات محتوى حساس
لكن بعض المهام التي قال متعاقدون إنهم شاهدوها تجاوزت تعديلات الصور التقليدية، وشملت طلبات تتعلق بتغيير مظهر أجساد أشخاص، أو تقصير ملابسهم، أو إظهار أجزاء أكبر من أجسادهم، بالإضافة إلى وضع أشخاص في أوضاع ذات طابع جنسي.
كما تضمنت بعض المهام مواد مرتبطة بفقدان الشهية، وصورا ذات طابع جنسي لشخصيات كرتونية تبدو صغيرة السن.
وقال أحد المتعاقدين إن الوجوه في الصور تكون ظاهرة، وإن عددا من الطلبات التي شاهدها كانت ذات طبيعة جنسية، مع وجود شكوك بشأن موافقة الأشخاص الظاهرين فيها.
مئات المراجعين قد يطلعون على صور المستخدمين
وبحسب الوثائق، يشارك ما لا يقل عن مئات المراجعين البشريين في هذه المهام، ما يعني أن الصور التي يرفعها مستخدمو «كوبيلوت» بغرض تعديلها قد يطلع عليها متعاقدون بشريون ضمن عملية تقييم أداء النموذج.
وتوفر شركة «بروليفيك» خدمات تعتمد على المراجعة البشرية لضبط التفضيلات وتقييمات السلامة وقياس أداء أنظمة الذكاء الاصطناعي، وتعد من الشركات التي توظف متعاقدين لتنفيذ هذا النوع من المهام.
مايكروسوفت: استخدام البيانات وفق شروط الاستخدام
وقالت مايكروسوفت إن بيانات العملاء تُستخدم وفقا لشروط الاستخدام الخاصة بها، بما يشمل تحسين المنتجات وإنفاذ قواعد السلوك.
ويختلف هذا النوع من العمل عن مهام مراقبة المحتوى التقليدية التي تعتمد عليها شركات التكنولوجيا، إذ لا يركز المتعاقدون هنا بصورة أساسية على اكتشاف المخاطر أو تحديد مدى السماح بالمحتوى، وإنما يقارنون مخرجات الذكاء الاصطناعي بهدف تحسين دقة محرر الصور واتساقه وقدرته على تنفيذ طلبات المستخدمين.
