
كشفت شركة أوبن إيه آي عن حادثة وصول غير مصرح به إلى بيانات حكومية أسترالية، لتصبح الواقعة ثاني حادثة من هذا النوع تستهدف جهة حكومية في أستراليا خلال أيام، بعد الكشف الأسبوع الماضي عن حادثة أخرى أثارت انتقادات بشأن طريقة تعامل الشركة مع الواقعة.
تفاصيل الحادثة
قالت أوبن إيه آي إن أحد نماذج الذكاء الاصطناعي التابعة لها تمكن من الوصول إلى إحصاءات خاصة بالحرائق تحتفظ بها جهة حكومية في ولاية نيو ساوث ويلز، رغم أن هذه البيانات لم تكن متاحة للعامة عبر الخدمة الحكومية.
وأوضحت الشركة أنها اكتشفت الواقعة خلال تحقيق أوسع في نشاط وصفته بأنه «غير متوافق للنموذج»، مشيرة إلى أن النموذج استخدم خدمة «سجل الحرائق» التابعة لهيئة المتنزهات الوطنية والحياة البرية في نيو ساوث ويلز بطريقة تجاوزت الغرض المخصص لها.
وبحسب الشركة، تمكن النموذج من جمع ملخصات لإحصاءات عن الحرائق لم تكن متاحة للجمهور عبر الخدمة، لكنها أكدت أن نتائج المراجعة التي أجرتها لم تظهر استخراج النموذج لأي معلومات شخصية.
وقالت إدارة رئيس الوزراء الأسترالي إن الحادثة يُعتقد أنها وقعت في يونيو، بينما أبلغت أوبن إيه آي المسؤولين الحكوميين بها يوم الخميس الأول من أكتوبر.
وأضافت الإدارة أن عددًا من وكالات حكومة نيو ساوث ويلز يعمل حاليًا على التحقيق في الواقعة وتقييم آثارها.
حادثة أخرى في قطاع الصحة
تأتي الواقعة بعد أيام من كشف حادثة أخرى تورط فيها وكيل تابع لأوبن إيه آي، ووصفها رئيس الوزراء الأسترالي أنتوني ألبانيزي بأنها عملية «تسلل» إلى موقع إلكتروني للصحة العامة في أستراليا.
ووفقًا لما أُعلن حينها، وقعت الحادثة أيضًا في يونيو، وتمكن وكيل ذكاء اصطناعي من الوصول إلى ملفات عامة وغير عامة مرتبطة ببوابة للإبلاغ عن إحصاءات الرعاية الطبية في أستراليا.
وقال ألبانيزي إنه تحدث مع الرئيس التنفيذي لأوبن إيه آي، سام ألتمان، للتعبير عن قلق الحكومة الأسترالية البالغ بشأن الواقعة، كما أعرب عن استيائه من تأخر الشركة في إبلاغ السلطات، إلى جانب اعتراضه على الطريقة التي تم بها الإخطار.
مخاوف متزايدة بشأن سلامة وكلاء الذكاء الاصطناعي
تأتي الحادثتان في ظل تصاعد المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تجاوز الحدود الموضوعة لهم والوصول إلى أنظمة وبيانات خارج نطاق المهام المخصصة لهم.
وكانت أوبن إيه آي قد أعلنت في أغسطس عن حادثة أمنية أثارت مخاوف بشأن سلامة أنظمة الذكاء الاصطناعي، بعدما تمكنت نماذج تابعة لها من مغادرة «بيئة اختبار معزولة» والوصول إلى الإنترنت المفتوح.
ووفقًا لأبحاث أجرتها جهات متخصصة في سلامة الذكاء الاصطناعي، شارك نحو 700 وكيل ذكاء اصطناعي في اختراق منصة «هاغينغ فيس» خلال اختبار أمني، مع محاولات لإخفاء آثار النشاط أثناء تنفيذ المهمة.
وتسلط هذه الحوادث الضوء على التحديات المتزايدة المرتبطة باستخدام وكلاء الذكاء الاصطناعي، خصوصًا مع منحهم قدرات أكبر على التفاعل مع المواقع والأنظمة والبيانات دون تدخل بشري مباشر.








