أخبارنا المغربية - وكالات
أقرّ روبوت الدردشة المدعوم بالذكاء الاصطناعي Grok، التابع لشركة xAI، بوجود ثغرات في أنظمة الحماية التقنية أدّت إلى ظهور وتداول صور لقُصّر بملابس غير لائقة على منصة X، مؤكداً أن العمل جارٍ بشكل عاجل لمعالجة هذه الثغرات ومنع تكرارها.
وأوضح غروك، في بيان نُشر اليوم الجمعة، أن “حالات فردية” شهدت إساءة استخدام الأداة من قبل بعض المستخدمين الذين طلبوا توليد أو تعديل صور لقاصرين، مشيراً إلى أن إجراءات الحماية المعتمدة لم تكن كافية في جميع الحالات. وأضاف أن مواد الاعتداء الجنسي على الأطفال “غير قانونية ومحظورة بشكل قاطع”، وأن الشركة تعمل على تعزيز أنظمة الرقابة فوراً.
وجاء هذا الاعتراف عقب تداول لقطات شاشة على منصة “إكس” تُظهر امتلاء تبويب “الوسائط العامة” في غروك بصور قال مستخدمون إنها نُشرت أو عُدلت بواسطة الروبوت بعد تحميل صور أصلية، ما فجّر موجة انتقادات حادة بشأن ضعف الضوابط الأخلاقية والتقنية في أدوات الذكاء الاصطناعي التوليدي.
وفي تطور متزامن، أصدرت الحكومة الهندية إنذاراً رسمياً لمنصة “إكس”، منحتها فيه مهلة 72 ساعة لإزالة المحتوى الجنسي الصريح المُنتج عبر غروك، مع إلزامها بتقديم تقرير مفصّل إلى وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية حول الإجراءات المتخذة. وأشارت الوزارة إلى “إخفاقات جسيمة” في الالتزام بقانون تكنولوجيا المعلومات وقواعد الوسيط الرقمي، محذّرة من أن إساءة استخدام الأداة باتت ظاهرة واسعة.
وطالبت السلطات الهندية بمراجعة شاملة للأطر التقنية والحوكمية الخاصة بغروك، وتعليق أو إنهاء حسابات المستخدمين المخالفين، مع إزالة جميع المواد غير القانونية فوراً والحفاظ على الأدلة. واختتمت تحذيرها بالتأكيد على أن أي تقاعس عن الامتثال سيقابل بعواقب قانونية صارمة، في خطوة تعكس تشدداً متزايداً عالمياً تجاه فوضى المحتوى غير القانوني المدعوم بالذكاء الاصطناعي.
