مطالبات بوقف استخدام «جروك» داخل المؤسسات الأمريكية بعد اتهامات خطيرة تتعلق بالسلامة

وجّه تحالف من منظمات غير ربحية رسالة مفتوحة إلى الحكومة الأمريكية طالب فيها بتعليق استخدام روبوت الدردشة Grok، الذي طوّرته شركة xAI التابعة للملياردير إيلون ماسك، داخل الوكالات الفيدرالية، بما في ذلك وزارة الدفاع الأمريكية، على خلفية مخاوف متزايدة بشأن السلامة والمحتوى غير القانوني.

وبحسب ما أورده موقع TechCrunch، جاءت الرسالة عقب تقارير أفادت بقيام مستخدمين على منصة X بطلب تحويل صور لنساء وأطفال إلى محتوى غير لائق، حيث أشارت مصادر إلى أن جروك أنتج آلاف الصور الصريحة في الساعة الواحدة، جرى تداولها على نطاق واسع، ما أثار موجة انتقادات حادة حول آليات الحماية والرقابة داخل النظام.

واعتبرت منظمات موقعة على الرسالة، من بينها Public Citizen و Center for AI and Digital Policy، أن استمرار استخدام جروك يتعارض مع التوجيهات التنفيذية والقوانين الحديثة، مثل Take It Down Act، مؤكدة أن النموذج أظهر إخفاقات ممنهجة في السلامة، شملت إنتاج محتوى معادٍ للسامية، ومتحيز ضد النساء، إضافة إلى صور غير لائقة للأطفال.

وفي سياق متصل، أثار توقيع عقود حكومية مع xAI جدلاً واسعاً، بعدما أبرمت الشركة في سبتمبر الماضي اتفاقاً مع إدارة الخدمات العامة الأمريكية لتسويق جروك داخل الوكالات الفيدرالية، إلى جانب عقد آخر تصل قيمته إلى 200 مليون دولار مع وزارة الدفاع، حيث أُعلن أن جروك سيعمل إلى جانب نموذج Gemini التابع لشركة غوغل داخل شبكة البنتاجون، وهو ما اعتبره خبراء خطوة تحمل مخاطر محتملة على الأمن القومي.

وحذّر مختصون في الأمن السيبراني من أن استخدام نماذج مغلقة المصدر مثل جروك يحدّ من إمكانية التدقيق في آليات اتخاذ القرار، ما يزيد من احتمالات الانحرافات التقنية والتحيزات الخفية، فيما نبّه ناشطون إلى أن اعتماد مخرجات غير محايدة في قطاعات حكومية حساسة، مثل الإسكان والعمل والعدل، قد يؤدي إلى آثار اجتماعية وقانونية واسعة.

وطالبت الرسالة كذلك مكتب الإدارة والميزانية الأمريكي بفتح تحقيق رسمي حول إخفاقات جروك، والكشف عمّا إذا كان النموذج قد خضع لتقييمات السلامة المطلوبة قبل اعتماده، داعية إلى تعليق استخدامه فوراً إلى حين التأكد من التزامه الكامل بمعايير الحياد والشفافية وحماية المستخدمين.