أخبارنا المغربية - وكالات
تتجه مخاوف وكلاء الذكاء الاصطناعي القادرين على تنفيذ عمليات اختراق إلكتروني من نطاق الأبحاث داخل الشركات إلى مستوى الاهتمام الحكومي في الولايات المتحدة، بعدما دعا البيت الأبيض شركات Meta وAnthropic وOpenAI وGoogle إلى مناقشة اختبارات أمنية طوعية لقياس القدرات الهجومية لأحدث نماذج الذكاء الاصطناعي.
ويأتي هذا التحرك عقب تقارير أشارت إلى أن بعض الأنظمة تمكنت، خلال اختبارات أمنية، من الوصول إلى شبكات شركات خارج النطاق المسموح لها، ما أثار تساؤلات حول مدى قدرة المطورين على التحكم في نماذج تزداد استقلاليتها مع تطور قدراتها.
وبحسب تقرير لوكالة رويترز، وضعت الإدارة الأمريكية اللمسات الأخيرة على خطة لإجراء اختبارات طوعية في مجال الأمن السيبراني، بهدف تقييم إمكانات الاختراق لدى أكثر النماذج الأمريكية تقدما. ومن المقرر أن يناقش ممثلو الشركات الأربع تفاصيل الخطة مع مسؤولي البيت الأبيض، فيما لم تُعلن الإدارة حتى الآن عن معايير التقييم أو آلية نشر النتائج.
ويرى مراقبون أن هذه الاختبارات قد تشكل خطوة أولى نحو وضع معايير تنظيمية لقياس قدرة الشركات على احتواء نماذج الذكاء الاصطناعي قبل طرحها للاستخدام الواسع أو منحها صلاحيات أكبر، خاصة أن الوكلاء الذكيين القادرين على استخدام الأدوات والاتصال بالشبكات يستطيعون تنفيذ مهام معقدة والبحث عن مسارات بديلة لتحقيق أهدافهم.
وفي حال أثبتت الاختبارات الطوعية عدم كفايتها، فقد تتصاعد الدعوات إلى فرض ضوابط إلزامية، ما قد يجعل الأمن السيبراني عاملاً حاسماً في تحديد وتيرة تطوير وإطلاق الأجيال المقبلة من أنظمة الذكاء الاصطناعي.
