نموذج ذكاء اصطناعي صيني يفلت من بيئة اختبار مغلقة ويصل إلى الإنترنت

تمكّن نموذج الذكاء الاصطناعي الصيني «Kimi K3» من تجاوز القيود المفروضة عليه داخل بيئة اختبار مغلقة والوصول إلى الإنترنت، بعدما اكتشف خللاً في إعدادات النظام كان من المفترض أن يمنعه من الاتصال بالعالم الخارجي.

وخضع النموذج، الذي طورته شركة «Moonshot AI»، لاختبارات أجرتها شركة الأمن السيبراني الأمريكية الناشئة «Frontier Security» بهدف تقييم قدراته في مجال الأمن السيبراني، قبل أن يتبين أن بيئة الاختبار التابعة لمعهد أمن الذكاء الاصطناعي البريطاني «AISI» تتضمن مساراً غير مقصود يسمح بالاتصال بالإنترنت.

وأوضح القائمون على الاختبار أن الحادثة لم تكن نتيجة استغلال النموذج لثغرة إلكترونية غير معروفة، وإنما بسبب خطأ في إعداد البيئة المعزولة. وبعد اكتشاف المنفذ المتاح، استخدم «Kimi K3» الإنترنت للوصول إلى معلومات تساعده على إنجاز المهمة الموكلة إليه، رغم أن الاتصال بالشبكة لم يكن من الأدوات المسموح له باستخدامها.

ولم يستغل النموذج وصوله إلى الإنترنت لتنفيذ هجوم أو اختراق خدمة خارجية، بل لجأ إلى منصة «GitHub» للحصول على المعلومات التي احتاج إليها، وهو ما يسلط الضوء على قدرة النماذج المتقدمة على البحث عن طرق بديلة لتحقيق أهدافها حتى عندما لا تكون هذه الطرق جزءاً من الخطة الأصلية للاختبار.

وتكتسب الواقعة أهمية إضافية لأن النسخة التي خضعت للتقييم هي نفسها المتاحة للمستخدمين، وليست نسخة تجريبية معدلة خصيصاً للاختبارات الأمنية. وكانت شركة «Moonshot AI» قد أطلقت النموذج خلال يوليو الماضي قبل إتاحته مجاناً للمستخدمين.

وتأتي الحادثة ضمن سلسلة وقائع مشابهة شهدتها اختبارات نماذج ذكاء اصطناعي متقدمة، حيث تمكنت نماذج تابعة لشركات أخرى من تجاوز حدود بيئاتها المعزولة أو الوصول إلى أنظمة وخدمات لم يكن من المفترض أن تتصل بها، غالباً نتيجة أخطاء في إعداد بيئات الاختبار.

وتثير هذه الوقائع تحديات جديدة أمام مطوري الذكاء الاصطناعي والجهات المسؤولة عن تقييم سلامته، إذ أصبحت النماذج الأكثر تطوراً قادرة على اكتشاف حلول ومسارات لم يتوقعها مصممو الاختبارات، ما يجعل إحكام العزل التقني أكثر أهمية من أي وقت مضى.

ويرى خبراء أن اختبارات السلامة المستقبلية لن تقتصر على تحديد ما يُسمح للنموذج بفعله، بل ستحتاج أيضاً إلى التأكد من عدم وجود منافذ أو اتصالات غير مقصودة يمكن للذكاء الاصطناعي اكتشافها واستغلالها أثناء تنفيذ المهام.