كشفت تجربة أمنية حديثة عن تنامي قدرة أدوات الذكاء الاصطناعي على مساعدة الباحثين في تطوير هجمات إلكترونية معقدة خلال فترات زمنية قصيرة، بعدما تمكن فريق صغير من الباحثين الأمنيين من الاستعانة بنموذج «كلود» التابع لشركة أنثروبيك في اكتشاف سلسلة من الثغرات واستغلالها للوصول إلى حساب موظف في شركة OpenAI، وإثبات إمكانية الوصول إلى بيئة برمجية داخلية تابعة للشركة.
ونفذ فريق Hacktron AI الاختبار في إطار بحث أمني، حيث تمكن من استغلال ثغرات مرتبطة بمنتدى OpenAI المجتمعي، والوصول إلى حسابات تابعة لموظفين في خدمات ChatGPT وCodex.
وبعد إبلاغ OpenAI بالثغرات وإيقاف الاختبار، دفعت الشركة للفريق مكافأة بلغت 6500 دولار مقابل اكتشاف الثغرة الموجودة في أنظمتها.
كيف بدأ الهجوم؟
بدأت العملية من منتدى OpenAI المجتمعي، الذي يعمل باستخدام منصة Discourse.
واكتشف الباحثون ثغرة في طريقة معالجة الصور يمكن استغلالها من خلال ملفات HEIC وHEIF، حيث كانت هذه الملفات تمر عبر مكتبات مخصصة لمعالجة الصور، من بينها مكتبة libheif، ما أتاح إمكانية تنفيذ شيفرة عن بُعد داخل بيئة المنتدى.
واستعان الباحثون بنموذج كلود للمساعدة في تطوير الاستغلال البرمجي للثغرة.
وفي البداية، لم يكن الاستغلال موثوقًا بالدرجة الكافية، إلا أن إطلاق Claude Opus 5 ساعد الفريق، وفقًا للباحثين، في تطوير استغلال عملي خلال ساعات.
وبعد السيطرة على بيئة المنتدى، انتقل الفريق إلى استغلال مشكلة أخرى مرتبطة بنظام تسجيل الدخول الموحد الخاص بـOpenAI.
وأتاحت هذه الثغرة الوصول إلى رموز مصادقة مرتبطة بحسابات المستخدمين الذين سجلوا الدخول إلى المنتدى، ومن بينهم موظفون في OpenAI.
من المنتدى إلى حسابات ChatGPT وCodex
تكمن خطورة الثغرة في أن رموز المصادقة لم تكن محصورة في المنتدى فقط، بل كان بعضها مرتبطًا بخدمات أخرى تابعة لشركة OpenAI.
وبهذه الطريقة، تمكن الباحثون من الوصول إلى حسابات في ChatGPT وCodex، كما وجدوا أن بعض الحسابات كانت مرتبطة بخدمات أخرى، من بينها GitHub وأدوات عمل مختلفة.
واستخدم الفريق حسابًا تابعًا لأحد موظفي OpenAI لإثبات مدى خطورة الوصول الذي تمكنوا منه، حيث جعلوا بيئة Codex المرتبطة بالحساب تنشئ طلب دمج برمجي Pull Request داخل مستودع OpenAI الداخلي المعروف باسم Monorepo.
ولم يكن الهدف من الاختبار الاطلاع على الشيفرات البرمجية الحساسة أو نسخها، وإنما استخدام طلب الدمج كدليل على إمكانية الوصول إلى البيئة الداخلية للشركة.
وبعد إثبات الوصول، أوقف الباحثون الاختبار وأبلغوا OpenAI بالنتائج والثغرات التي جرى اكتشافها.
كلود يقلص وقت تطوير الاستغلال
يبرز في هذه الواقعة الدور الذي لعبه الذكاء الاصطناعي في تسريع تطوير الاستغلالات البرمجية المعقدة.
وقال باحثو Hacktron إنهم استخدموا في البداية Claude Opus 4.8 للمساعدة في استغلال ثغرة مكتبة libheif، إلا أن النموذج واجه صعوبات في جعل الاستغلال موثوقًا في ظل وجود آليات حماية مثل ASLR.
وبعد إطلاق Claude Opus 5، تمكن الفريق من تطوير استغلال عملي لمعمارية ARM64 خلال ساعات، قبل تكييفه مع البيئة التي تستخدمها منصة Discourse.
وبحسب الباحثين، استغرقت العملية بأكملها، منذ اكتشاف الثغرة وحتى إثبات إمكانية الوصول إلى بيئة مستودع OpenAI الداخلي، أقل من 72 ساعة.
وتشير هذه المدة إلى حجم الدور الذي يمكن أن تؤديه النماذج المتقدمة في تسريع بعض مراحل البحث الأمني وتطوير الاستغلالات، مقارنة بالوقت الذي قد تتطلبه هذه المهام عند تنفيذها بالطرق التقليدية.
OpenAI تعالج الثغرات وتلغي الرموز المتأثرة
أكدت OpenAI أنها عالجت المشكلة المرتبطة بنظام تسجيل الدخول، كما ألغت رموز المصادقة والجلسات التي تأثرت بالثغرة، وضيقت صلاحيات رموز تسجيل الدخول الخاصة بالمنتدى.
وفي الوقت نفسه، أصدرت منصة Discourse تحديثًا لمعالجة ثغرة معالجة الصور، إلى جانب إضافة طبقة عزل إضافية لمعالجة الصور كإجراء دفاعي إضافي.
وأوضحت OpenAI أن مبلغ 6500 دولار الذي دفعته للفريق لم يكن مقابل استغلال ثغرة Discourse نفسها.
وكان اختبار المنتدى المستضاف على Discourse خارج نطاق برنامج مكافآت الثغرات الخاص بـOpenAI، بينما جاءت المكافأة مقابل اكتشاف المشكلة الموجودة في أنظمة الشركة.
هل يجعل الذكاء الاصطناعي الهجمات الإلكترونية أسهل؟
تسلط الواقعة الضوء على تحول متسارع في مجال الأمن السيبراني، إذ لم يعد استخدام الذكاء الاصطناعي مقتصرًا على كتابة الشيفرات البسيطة أو تحليل الثغرات المعروفة، بل باتت النماذج المتقدمة قادرة على مساعدة الباحثين في تطوير استغلالات أكثر تعقيدًا وتكييفها مع بيئات برمجية مختلفة.
لكن الباحثين لم يقدموا الواقعة باعتبارها اختراقًا نفذه الذكاء الاصطناعي بصورة مستقلة، إذ ظل العمل يعتمد على توجيه الباحثين للنموذج والاستعانة بخبرتهم الأمنية لتحديد مسار الاختبار والاستغلال.
ومع ذلك، فإن قدرة نماذج مثل كلود على تقليص الوقت والجهد اللازمين لتطوير الاستغلالات الأمنية تثير تساؤلات متزايدة بشأن مدى سهولة تنفيذ هجمات كانت تتطلب في السابق خبرة تقنية متخصصة ووقتًا أطول.
وتزداد المخاطر عندما تكون حسابات أدوات الذكاء الاصطناعي مرتبطة بخدمات تتمتع بصلاحيات واسعة، مثل مستودعات الشيفرات والبريد الإلكتروني وخدمات التخزين وأدوات التعاون.
وفي مثل هذه الحالات، قد يؤدي اختراق حساب واحد إلى فتح المجال أمام الوصول إلى مجموعة واسعة من الأنظمة والخدمات المرتبطة به.
وتكشف واقعة OpenAI أن التطور السريع في قدرات الذكاء الاصطناعي لا يغير فقط طريقة تطوير البرمجيات، بل يعيد أيضًا تشكيل طبيعة الهجمات الإلكترونية، مع تحول بعض المهام التقنية المعقدة إلى عمليات يمكن تنفيذها بوتيرة أسرع وبجهد أقل بمساعدة النماذج المتقدمة.
