نماذج «كلود» تخترق شركات حقيقية بالخطأ.. أنثروبيك تكشف فشلاً أمنياً خطيراً

أقرت شركة «أنثروبيك» بأن عدداً من نماذجها المتقدمة للذكاء الاصطناعي تمكن من الوصول من دون تصريح إلى أنظمة إلكترونية تابعة لثلاث مؤسسات حقيقية، خلال اختبارات صُممت أساساً لقياس قدراتها في مجال الأمن السيبراني داخل بيئات افتراضية معزولة.

وكشفت الشركة الحوادث بعد مراجعة داخلية شملت أكثر من 141 ألف جلسة تقييم، أُجريت عقب إعلان «أوبن إيه آي» عن واقعة مشابهة تمكن خلالها أحد نماذجها من الخروج عن نطاق الاختبار والوصول إلى أنظمة حقيقية عبر الإنترنت.

ووقعت الاختراقات بسبب خطأ في إعداد بيئة اختبار تديرها جهة خارجية، ما منح نماذج «كلود» اتصالاً غير مقصود بالإنترنت المفتوح، رغم إبلاغها بأنها تعمل داخل محاكاة مغلقة لا تضم أهدافاً حقيقية.

واستغلت النماذج كلمات مرور ضعيفة ونقاط اتصال غير محمية للوصول إلى الأنظمة، من دون الاعتماد على ثغرات أمنية معقدة أو غير معروفة. وفي إحدى الحالات، واصل نموذج نشاطه بعدما أدرك أن الهدف قد يكون مؤسسة حقيقية، بينما أوقف نموذج آخر العملية ذاتياً عند الاشتباه بخروجه من بيئة الاختبار.

ولم تكتشف «أنثروبيك» أو المؤسسات المتضررة النشاط وقت حدوثه، كما لم تُعلن أسماء الجهات الثلاث، واضطرت الشركة إلى إبلاغ اثنتين منها بعدما كشفت المراجعة اللاحقة عمليات الوصول غير المصرح بها. ووصفت الشركة الواقعة بأنها «فشل تشغيلي»، وأوقفت تقييمات الأمن السيبراني مؤقتاً لمواصلة التحقيق.

وتعتمد اختبارات «التقاط العلم» على وضع النماذج أمام أنظمة وهمية تتضمن ثغرات ومعلومات مخفية، بهدف قياس قدرتها على اكتشاف نقاط الضعف واستغلالها. وتثير الحوادث الأخيرة تساؤلات بشأن إجراءات عزل النماذج المتقدمة ومراقبتها، مع تزايد قدرتها على تنفيذ مهام إلكترونية معقدة بقدر أكبر من الاستقلالية.