مقاطع صادمة مولدة بالذكاء الاصطناعي تضع فيسبوك أمام انتقادات جديدة بسبب حماية الأطفال

تواجه شركة «ميتا»، المالكة لفيسبوك، انتقادات متزايدة بشأن فعالية أنظمة مراقبة المحتوى على منصاتها، بعدما كشف تحقيق صحفي عن انتشار مقاطع فيديو مصنوعة بالذكاء الاصطناعي تصور مشاهد عنف قاسٍ ضد الأطفال، بعضها ظل متاحاً للمشاهدة لأيام رغم إبلاغ الشركة بوجوده، ما أعاد طرح تساؤلات حول مسؤولية المنصات الرقمية عن المحتوى الذي تسمح بنشره وتداوله.

ووفقاً لتحقيق نشره موقع «Futurism» المتخصص في التكنولوجيا، فإن عدداً من حسابات فيسبوك بات ينشر مقاطع اصطناعية تحاكي مشاهد اعتداء وإساءة معاملة للأطفال، باستخدام تقنيات قادرة على إنتاج صور متحركة تبدو واقعية للوهلة الأولى. وتتنوع هذه المقاطع بين مشاهد تعرض أطفالاً للضرب والإهانة والحبس في أماكن خطرة، وغالباً ما تقدم الأحداث في قالب قصصي مصمم لإثارة الصدمة وجذب المشاهدات والتفاعلات.

ولم تكن المشكلة، بحسب التحقيق، مرتبطة بمجرد ظهور هذه المواد على المنصة، بل بالطريقة التي تعاملت بها الشركة مع البلاغات المتعلقة بها. فقد سبق للصحفيين أن نبهوا «ميتا» إلى حساب ينشر مقاطع من هذا النوع، لتقوم الشركة بحذفه في البداية، قبل أن يتبين لاحقاً أنه عاد إلى الظهور مع استمرار توفر بعض المحتويات نفسها، ما دفع القائمين على التحقيق إلى مطالبتها بتفسير أسباب إعادة تفعيله.

وجاء رد أحد المتحدثين باسم «ميتا» مقتضباً، إذ أكد أن الشركة تدرس الموضوع دون تحديد موعد واضح لاتخاذ القرار. وبعد فترة اختفى الحساب مجدداً، لكن الأسئلة المتعلقة بسبب استعادته نشاطه لم تتلق، وفق التقرير، إجابات تفصيلية، وهو ما عزز الشكوك بشأن مدى اتساق قرارات الإشراف على المحتوى وآليات مراجعة الحسابات المخالفة.

وفي محاولة لاختبار سرعة استجابة الشركة، أحال الصحفيون إليها 19 حساباً إضافياً تحتوي على مقاطع مشابهة تصور اعتداءات عنيفة على أطفال، بعضها يستخدم عناصر عنصرية أو مشاهد شديدة القسوة. غير أن الحسابات ظلت متاحة لأكثر من 48 ساعة بعد الإبلاغ عنها، قبل أن تقوم «ميتا» بإزالتها وتعلن في بيان مقتضب أن المحتوى المعني خالف سياساتها.

وتثير هذه الواقعة إشكالاً جديداً يتعلق بالانتشار السريع للمحتوى الاصطناعي، إذ أصبحت أدوات توليد الفيديو قادرة على إنتاج أعداد كبيرة من المقاطع دون الحاجة إلى تصوير أحداث حقيقية. ورغم أن الأطفال الظاهرين في هذه المواد قد يكونون شخصيات افتراضية لا وجود لها في الواقع، فإن ذلك لا يلغي المخاوف المرتبطة بتطبيع مشاهد العنف أو تعريض المستخدمين، بمن فيهم القاصرون، لمحتوى شديد الإزعاج، خصوصاً عندما يجري تداوله دون توضيح طبيعته المصطنعة.

ويشير التحقيق إلى أن بعض الفيديوهات كانت مرفقة بأوصاف مكتوبة تتضمن إشارات واضحة إلى الاعتداء على الأطفال، ما يطرح تساؤلات بشأن إمكانية استخدام أنظمة الكشف الآلي لرصد هذا النوع من المحتوى قبل انتشاره على نطاق واسع. كما يثير استمرار ظهور حسابات تنشر مواد متشابهة تحدياً يتعلق بقدرة المنصات على الحد من إعادة نشر المقاطع المخالفة، بدلاً من الاكتفاء بحذفها بعد تلقي شكاوى خارجية.

وتأتي هذه الانتقادات في وقت تستثمر فيه «ميتا» مبالغ ضخمة في تطوير تقنيات الذكاء الاصطناعي، وتسعى إلى توسيع استخدامها داخل تطبيقاتها وخدماتها الإعلانية. ويرى منتقدو الشركة أن التطور السريع لقدرات إنتاج المحتوى ينبغي أن ترافقه استثمارات موازية في أدوات التحقق والإشراف، خصوصاً أن الصور والمقاطع المصطنعة أصبحت أكثر قدرة على محاكاة الواقع وإثارة التفاعل، ما يزيد صعوبة التمييز بينها وبين التسجيلات الحقيقية.

ولا يقتصر النقاش على قدرة فيسبوك التقنية على حذف المقاطع، بل يمتد إلى كيفية تطبيق سياساته بشأن العنف والمحتوى المتعلق بالأطفال، ومدى وضوح المعايير التي تسمح ببقاء بعض المواد أو تؤدي إلى إزالتها. وبينما تؤكد «ميتا» أنها حذفت الحسابات التي خالفت قواعدها، يبرز التحقيق تحدياً أوسع أمام منصات التواصل الاجتماعي، يتمثل في ضمان ألا تتحول سهولة صناعة الفيديو بالذكاء الاصطناعي إلى وسيلة لإغراق المستخدمين بمشاهد مؤذية يصعب احتواؤها بعد انتشارها.