بعد حوادث مقلقة.. إطار جديد لتعقب "وكلاء الذكاء الاصطناعي الهاربين"

اقترح تحالف تقني يضم أكثر من 120 مؤسسة، من بينها «إنفيديا» و«سيسكو» و«كراود سترايك»، إنشاء نظام مشترك للإبلاغ عن الحوادث الأمنية المرتبطة بوكلاء الذكاء الاصطناعي، في ظل تزايد قدرة هذه الأنظمة على تنفيذ مهام مستقلة والوصول إلى أدوات وخدمات خارجية دون تدخل بشري مباشر.

وأطلق تحالف Open Secure AI Alliance على المبادرة اسم Shared AI Findings Exchange (SAFE)، وهي لا تزال في مرحلة طلب التعليقات قبل اعتمادها بشكل نهائي. ويهدف الإطار إلى وضع قواعد موحدة تسمح للشركات والمطورين والباحثين بتوثيق الحوادث وتبادل المعلومات بشأنها بدلاً من معالجة كل واقعة بصورة منفصلة.

ويلزم المقترح المشاركين بالإبلاغ عن حالات محددة، من بينها وصول وكيل ذكاء اصطناعي إلى نظام تابع لطرف ثالث دون تصريح، أو كشف معلومات سرية، أو مواصلة نشاط ضد هدف حقيقي بعدما ظهرت مؤشرات على أن العملية غير مصرح بها. كما يشمل بعض الوقائع التي كادت أن تتحول إلى حوادث فعلية، مع الاحتفاظ بسجلات دقيقة لما قام به النظام.

ويطلب الإطار، من جهة أخرى، الاحتفاظ بما يشبه «الصندوق الأسود» لوكيل الذكاء الاصطناعي، بما في ذلك الأوامر التي تلقاها، واستدعاءات الأدوات، وسجلات النشاط، والهويات والصلاحيات المستخدمة. ويشبه مسؤولو المبادرة هذه الآلية بأنظمة التحقيق في حوادث الطيران، حيث تسمح السجلات بإعادة بناء ما حدث وفهم سبب تجاوز النظام للحدود المرسومة له.

ويقترح «SAFE» كذلك جدولاً زمنياً للإفصاح، يبدأ بإبلاغ الجهة المتضررة سريعاً، ثم تقديم تقرير سري أولي إلى المبادرة خلال أربعة أيام عمل، مع إمكانية نشر تقرير بالوقائع خلال 30 يوماً وتقديم تحديث بشأن إجراءات المعالجة في غضون 90 يوماً. ولا يشترط المقترح أن يكون الضرر متعمداً حتى يصبح الحادث قابلاً للإبلاغ.

ويأتي التحرك بعدما أثارت حالات تجاوز فيها وكلاء ذكاء اصطناعي حدود بيئات الاختبار ووصلوا إلى أنظمة حقيقية مخاوف متزايدة داخل قطاع الأمن السيبراني. وفي المقابل، لا يمنح الإطار المقترح حتى الآن حماية قانونية رسمية للشركات التي تكشف طوعاً عن مثل هذه الوقائع، بينما تواصل مؤسسة Linux Foundation استقبال ملاحظات المجتمع التقني بشأن الصيغة النهائية للمبادرة.