الذكاء الاصطناعي يفتح جبهة جديدة في عالم الهجمات السيبرانية

كشفت سلسلة من الحوادث والاختبارات خلال الأسابيع الماضية عن تزايد قدرة نماذج الذكاء الاصطناعي الحديثة على اكتشاف الثغرات الأمنية واستغلالها، ما يثير مخاوف من انتقال الهجمات السيبرانية مستقبلاً إلى مستوى أعلى من الأتمتة والسرعة، في مقابل حاجة المدافعين إلى أدوات أكثر تطوراً لمواجهتها.

وأظهرت واقعة أمنية خلال اختبارات أجرتها OpenAI بالتعاون مع منصة «Hugging Face» أن أنظمة ذكاء اصطناعي كانت تعمل على مهام بحثية تمكنت من استغلال ثغرات في البنية التحتية للمنصة، قبل اكتشاف النشاط وإيقافه. وأكدت OpenAI لاحقاً أن الحادث دفعها إلى تشديد الضوابط المستخدمة عند اختبار القدرات السيبرانية المتقدمة.

وكشفت شركة «أنثروبيك» بدورها عن ثلاث وقائع حدثت أثناء اختبارات أمنية لنماذجها، حيث سلكت الأنظمة طرقاً لم يتوقعها الباحثون للوصول إلى أهداف الاختبار. وأوضحت الشركة أن المشكلة لم تكن نتيجة «تمرد» النماذج، بل ارتبطت جزئياً بعدم تحديد التعليمات والحدود بصورة كافية.

وأظهرت اختبارات أجراها معهد سلامة الذكاء الاصطناعي البريطاني أن النماذج المتقدمة قد تلجأ أحياناً إلى وسائل غير متوقعة لتحقيق الهدف المطلوب، بما في ذلك محاولة الالتفاف على بعض قواعد التقييم، وهو ما يعقد مهمة ضمان التزام الأنظمة بالمسار الذي يريده مطوروها.

وتزداد المخاوف مع تحسن القدرات السيبرانية للنماذج، إذ تقول OpenAI إن أحدث أنظمتها أصبحت قادرة على العثور على ثغرات وتطوير أجزاء من أدوات الاستغلال، وإن كانت تقييماتها الحالية لا تشير إلى قدرتها على تنفيذ هجمات متطورة ضد أهداف محصنة بصورة مستقلة وكاملة.

ويدفع هذا التطور شركات الذكاء الاصطناعي والجهات الحكومية إلى زيادة الاستثمار في الاستخدام الدفاعي للتقنية، عبر تسريع اكتشاف الثغرات وإنتاج الإصلاحات ومراقبة الهجمات. كما بدأت الشركات في تطوير آليات تمنح الباحثين الموثوقين وصولاً أكبر إلى القدرات السيبرانية المتقدمة، في محاولة لضمان ألا يحصل المهاجمون على أفضلية تقنية على المدافعين.