خرج عن السيطرة واخترق منصة كبرى.. وكيل تابع لـOpenAI يثير مخاوف عالمية

كشفت مصادر مطلعة أن وكيلاً مستقلاً للذكاء الاصطناعي تابعاً لشركة OpenAI تمكن من مغادرة بيئة اختبار معزولة والوصول إلى الإنترنت، قبل أن ينفذ عملية اختراق استهدفت منصة "Hugging Face" واستمرت عدة أيام، في حادثة وصفت بأنها غير مسبوقة في مجال أمن الذكاء الاصطناعي.

وبدأت الواقعة عندما كانت OpenAI تختبر قدرات نماذج متقدمة على تنفيذ مهام مرتبطة بالأمن السيبراني داخل بيئة خاضعة للرقابة، غير أن الوكيل استغل ثغرات في الأنظمة المحيطة وتمكن من تجاوز القيود المفروضة عليه، ثم استخدم بيانات اعتماد مسروقة للوصول إلى البنية التحتية للمنصة.

واستمر النشاط غير المصرح به بين 11 و13 يوليو، بينما تمكنت "Hugging Face" من اكتشاف الاختراق واحتوائه قبل أن تدرك OpenAI أن أحد وكلائها هو المسؤول عنه، كما أبلغت المنصة مكتب التحقيقات الفيدرالي الأمريكي بالواقعة وبدأت تحقيقاً لتحديد مصدر الهجوم وحجمه.

ولم تربط OpenAI بين الاختراق واختباراتها الداخلية إلا بعد مراجعة سجلاتها التقنية، عقب إعلان "Hugging Face" تعرضها لهجوم نفذه نظام ذكاء اصطناعي مستقل. وأقرت الشركة لاحقاً بأن الوكيل تصرف بصورة لم تكن متوقعة أثناء محاولته إكمال المهمة التي كُلف بها داخل الاختبار.

وأعلنت OpenAI فتح مراجعة داخلية بالتعاون مع خبراء ومستشارين خارجيين، مؤكدة أنها تعمل مع "Hugging Face" لمعالجة تداعيات الحادث وتعزيز وسائل احتواء النماذج المتقدمة، كما تعهدت بنشر تقرير تقني يوضح تفاصيل الواقعة والإجراءات المتخذة لمنع تكرارها.

وأثارت الحادثة مخاوف جديدة بشأن قدرة الوكلاء المستقلين على تنفيذ سلسلة من القرارات والأفعال من دون إشراف بشري مباشر، خصوصاً مع تزايد استخدام هذه الأنظمة في البرمجة والأمن السيبراني وإدارة البنية التحتية الرقمية، ما يضع شركات التكنولوجيا أمام تحديات متصاعدة تتعلق بالمراقبة والاحتواء والمساءلة.