كشفت دراسة بحثية أن نماذج الذكاء الاصطناعي يمكنها استغلال المعلومات والصور التي ينشرها المستخدمون علنًا على مواقع التواصل الاجتماعي، لإنشاء رسائل تصيد احتيالي شديدة التخصيص، بما يجعل اكتشافها أكثر صعوبة ويزيد قدرتها على خداع المستهدفين.
واعتاد كثيرون تلقي رسائل بريد إلكتروني مشبوهة تزعم الفوز بجائزة، أو تدعي تعذر تسليم شحنة، أو تطالب بتحديث بيانات الحساب المصرفي بصورة عاجلة، وغالبًا ما يسهل تجاهلها بسبب أخطائها اللغوية أو احتوائها على معلومات لا علاقة لها بالمستلم.
لكن الخطر يصبح أكبر عندما تتضمن الرسالة تفاصيل حقيقية عن أنشطة المستخدم الأخيرة، أو الأماكن التي زارها، أو الأحداث التي يستعد للمشاركة فيها.
وتوصل باحثون في جامعة تكساس بمدينة أرلينغتون إلى أن الذكاء الاصطناعي قادر على استغلال المعلومات المنشورة علنًا على منصات التواصل الاجتماعي، وتحويلها إلى رسائل تصيد احتيالي تبدو وكأنها كُتبت خصيصًا لكل شخص.
ولا تقتصر هذه المعلومات على اسم المستخدم أو مكان عمله، بل قد تشمل أنشطة قام بها مؤخرًا، أو أماكن زارها، أو مناسبات يتطلع إلى حضورها.
وأظهر الباحثون أن نماذج الذكاء الاصطناعي المتاحة على نطاق واسع تستطيع جمع هذه التفاصيل وتحليلها، ثم صياغة رسائل احتيالية موجهة، ما يمنح المحتالين القدرة على استهداف أعداد كبيرة من الأشخاص دون الحاجة إلى قضاء ساعات في البحث عن معلومات كل ضحية على حدة.
منشورات إنستجرام قد تتحول إلى وسيلة للاحتيال
يشارك المستخدمون تفاصيل حياتهم اليومية عبر الإنترنت دون التفكير في كيفية استغلالها؛ فقد ينشر أحدهم صورًا من رحلة نهاية الأسبوع، أو يتحدث عن تذاكر حفل موسيقي يستعد لحضوره، أو يشتكي من خلل في إحدى الخدمات التي يستخدمها.
وبالنسبة إلى الأصدقاء والمتابعين، تبدو هذه المنشورات تحديثات عادية، لكنها قد تمثل للمحتالين مصدرًا مهمًا للمعلومات الشخصية التي تساعدهم على إعداد رسائل أكثر إقناعًا.
ووجد الباحثون أن الذكاء الاصطناعي يستطيع استخراج هذه التفاصيل، بما في ذلك المعلومات الموجودة داخل الصور، واستخدامها لصياغة رسائل بريد إلكتروني احتيالية تبدو مرتبطة مباشرة بحياة المستهدف واهتماماته.
كما يمكنه تعديل اسم المرسل وعنوان الرسالة والروابط المرفقة بها، بهدف جعل عملية الاحتيال أكثر واقعية وإقناعًا.
وتندرج هذه الممارسة ضمن ما يُعرف باسم «التصيد الاحتيالي الموجّه»، وهو أسلوب يعتمد على استهداف أشخاص محددين برسائل مصممة بالاستناد إلى معلوماتهم الشخصية.
لكن الاختلاف هذه المرة يتمثل في حجم العمل الذي يستطيع الذكاء الاصطناعي إنجازه وسرعته، إذ يمكنه جمع المعلومات وتحليلها وإعداد رسائل مخصصة لأعداد كبيرة من المستخدمين خلال وقت قصير.
وطلب فريق البحث من مجموعة من المشاركين تقييم رسائل البريد الإلكتروني التي أنشأها الذكاء الاصطناعي، وحصلت هذه الرسائل على تقييمات مرتفعة من حيث الجودة والإقناع، وهو ما يكشف قدرتها على الظهور بصورة مقنعة، دون أن يعني بالضرورة أن جميع المستخدمين سيقعون ضحية لها.
أدوات الحماية من احتيال الذكاء الاصطناعي تواجه تحديات
الأكثر إثارة للقلق أن نماذج الذكاء الاصطناعي تتضمن أنظمة أمان مصممة لمنع إساءة استخدامها في أنشطة ضارة، لكن الباحثين وجدوا أن عددًا من هذه الأنظمة لم يتمكن من التعرف بفاعلية على طلبات إنشاء رسائل التصيد الاحتيالي المخصصة.
واختبر الفريق ثلاث أدوات لرصد الطلبات الضارة المحتملة، هي Llama Guard وShieldGemma وWildGuard.
وأظهرت النتائج أن هذه الأدوات، عند استخدام إعداداتها الافتراضية، لم تتمكن سوى من اكتشاف ما بين 0% و19% من الطلبات المرتبطة بهجمات التصيد الاحتيالي المخصصة.
لكن الباحثين توصلوا أيضًا إلى طريقة لتحسين أداء هذه الأنظمة، إذ أدى تزويدها بتعليمات أكثر وضوحًا بشأن طبيعة الأنشطة التي ينبغي البحث عنها إلى رفع معدلات اكتشاف الطلبات الضارة إلى 99%.
ومن المقرر عرض نتائج الدراسة خلال مؤتمر للأمن السيبراني في مارس 2027، في وقت تتزايد فيه المخاوف من تطور أساليب الاحتيال المدعومة بالذكاء الاصطناعي.
المعلومات الشخصية المنشورة قد تصبح مدخلًا للاحتيال
تسلط النتائج الضوء على أن خطورة هذه الهجمات لا تكمن بالضرورة في قدرة الذكاء الاصطناعي على اختلاق معلومات عن المستخدمين، بل في قدرته على استغلال تفاصيل حقيقية سبق أن شاركوها بأنفسهم عبر الإنترنت، ثم توظيفها في رسائل احتيالية تبدو شخصية وموثوقة.
وبالتالي، فإن ورود معلومة شخصية صحيحة داخل رسالة بريد إلكتروني لا يعني بالضرورة أنها مرسلة من جهة موثوقة، بل قد يكون دليلًا على أن المحتال جمع هذه المعلومة من حسابات المستخدم على مواقع التواصل الاجتماعي.
ويجعل ذلك التحقق من هوية المرسل وفحص الروابط قبل النقر عليها أكثر أهمية، حتى عندما تبدو الرسالة مرتبطة بتفاصيل حقيقية من حياة المستلم.
