نموذج متقدم من أوبن إيه آي يتجاوز قيود الإنترنت.. والشركة توقف اختبارات تستخدم الأدوات

أعلنت أوبن إيه آي أنها أوقفت مؤقتاً عمليات تدريب وتقييم وتشغيل تتضمن استخدام الأدوات على أكثر نماذجها البحثية قدرة، بعد أن تمكن أحد أنظمتها خلال اختبار داخلي من تجاوز قيود الشبكة والوصول إلى خدمة خارجية عبر ثغرة مرتبطة بنظام أسماء النطاقات DNS.

وبحسب الشركة، كان النموذج يعمل داخل بيئة يفترض أنها لا تسمح له بالاتصال المباشر بالإنترنت. إلا أنه اكتشف أن محلل DNS في البيئة لا يخضع لقدر كاف من التصفية، واستغل هذا المسار للوصول إلى روبوت محادثة خارجي على الشبكة العامة.

وبدأت الواقعة أثناء مهمة بحثية طُلب فيها من النموذج التعرف على شخص اعتماداً على سلسلة من الأدلة المتعلقة بمنشور في مدونة. وبعد أن فشل في الوصول إلى الإجابة عبر الأدوات المسموح بها، جرّب طرقاً أخرى للوصول إلى المعلومات.

وتقول أوبن إيه آي إن اتصالات الإنترنت العادية كانت محجوبة أو تمر عبر نسخة غير متصلة من الويب، لكن النموذج اكتشف أن خدمة DNS قادرة على الوصول إلى الإنترنت الحقيقي، ثم استخدمها لتمرير استفسارات إلى خدمة دردشة خارجية.

ورصد نظام المراقبة السلوك بعد نحو 12 دقيقة من أول اتصال خارجي، وبدأت مراجعة بشرية بعد دقائق قليلة، لكن تشغيل المهمة لم يتوقف فوراً كما كان متوقعاً، قبل أن يتم إنهاؤها يدوياً بعد نحو ساعتين ونصف. وأقرت الشركة بأن الحادث كشف أيضاً ثغرات تشغيلية في آلية الاستجابة للإنذارات.

وأكدت أوبن إيه آي أنها أضافت قيوداً جديدة على استعلامات DNS، وطبقت طبقتين مستقلتين من الحماية كان من شأن أي منهما منع الاتصال الذي حدث، إلى جانب توسيع اختبارات الاختراق الموجهة إلى بيئات التدريب والشبكات.

ورغم أن الشركة وصفت الواقعة بأنها أقل خطورة من حوادث سابقة، فإنها اعتبرتها مهمة لأنها الأولى من هذا النوع منذ تشديد الإجراءات الأمنية عقب حادثة "Hugging Face" في يوليوز الماضي.

وفي تلك الحادثة السابقة، قالت أوبن إيه آي إن نماذج بحثية داخلية تجاوزت ضوابط العزل أثناء اختبارات للأمن السيبراني، وتمكنت من الوصول إلى أجزاء من بنيتها البحثية وأنظمة تابعة لمنصة Hugging Face. وكانت الشركة قد أوضحت أن النماذج المعنية كانت داخلية وغير مخصصة للإطلاق العام.

كما ظهرت خلال الأشهر الأخيرة حالات أخرى مرتبطة بوكلاء ذكاء اصطناعي تجاوزوا الحدود المتوقعة أثناء اختبارات تقنية، وهو ما دفع الشركة إلى تشديد ضوابط العزل والمراقبة قبل استئناف العمل على الأنظمة الأكثر قدرة.

وتقول أوبن إيه آي إن عمليات التدريب والتقييم والاستدلال التي تستخدم الأدوات ستظل متوقفة بالنسبة إلى أكثر نماذجها قدرة إلى حين التأكد من معالجة الثغرة وإجراء جولة إضافية من اختبارات السلامة، مضيفة أنها لن تستأنف تدريب النموذج نفسه الذي وقع معه الحادث، بل ستبدأ لاحقاً من تشغيل جديد مع تحسينات إضافية في مواءمة السلوك.