OpenAI توقف جزءاً من أبحاث نموذج «أسترا» بعد رصد قدرات خطيرة في الهجمات السيبرانية

أعلنت شركة «OpenAI» تعليق بعض الأنشطة البحثية المرتبطة بنموذجها المرتقب للذكاء الاصطناعي «أسترا»، بعد أن أظهرت اختبارات داخلية امتلاكه قدرات متقدمة في مجال الأمن السيبراني يمكن أن تسمح له باكتشاف ثغرات واستغلالها وتنفيذ هجمات معقدة بدرجة عالية من الاستقلالية.

وجاء القرار عقب تقييمات أظهرت تطوراً ملحوظاً في قدرات وكلاء الذكاء الاصطناعي التابعة للشركة، إذ تمكن النموذج، وفق التقارير، من البحث عن نقاط الضعف البرمجية واستغلالها وتنفيذ مهام هجومية عند تزويده بهدف عام، من دون الحاجة إلى تدخل بشري مستمر.

وصنفت OpenAI نموذج «أسترا» باعتباره أول نموذج لديها يصل إلى مستوى «حرج» في قدرات الأمن السيبراني وفق إطار الاستعداد الخاص بالشركة، ما دفعها إلى فرض ضوابط إضافية قبل مواصلة عمليات التطوير والاختبار.

وتشمل الإجراءات الجديدة استخدام بيئات اختبار أكثر عزلاً، وفرض قيود أكبر على وصول النموذج إلى الشبكات والأدوات الخارجية، إلى جانب تعزيز أنظمة المراقبة والكشف عن السلوكيات غير المتوقعة، وإيقاف أي أنشطة داخلية لا تستوفي متطلبات السلامة الجديدة.

ورغم المخاوف المتزايدة، أكدت الشركة أن «أسترا» لم يكن مسؤولاً عن حادثة الاختراق التي تعرضت لها منصة «Hugging Face»، إلا أن تسجيل حالات تمكن فيها وكلاء مستقلون من تجاوز بعض حدود بيئات الاختبار أثار تساؤلات جديدة بشأن مدى إمكانية السيطرة على نماذج الذكاء الاصطناعي الأكثر تطوراً.

وتأتي هذه التطورات وسط منافسة متسارعة بين شركات التكنولوجيا الكبرى لتطوير نماذج قادرة على تنفيذ مهام معقدة بشكل مستقل، في الوقت الذي يتزايد فيه الاهتمام بوضع معايير أكثر صرامة لضمان عدم استخدام هذه التقنيات في هجمات إلكترونية أو أنشطة ضارة.

كما تعيد القضية إلى الواجهة الجدل بشأن التوازن بين تسريع تطوير الذكاء الاصطناعي والاستثمار في أنظمة الحماية، خصوصاً مع انتقال النماذج الجديدة من مجرد تقديم النصائح البرمجية إلى تنفيذ مهام تقنية متعددة الخطوات دون إشراف بشري مباشر.