أخبارنا المغربية - وكالات
كشفت دراسة بريطانية حديثة عن ثغرات خطيرة في أداء روبوت الدردشة "ChatGPT-5" المجاني عند التفاعل مع مستخدمين يعانون من اضطرابات نفسية، محذّرة من احتمال تعرّض الأشخاص الأكثر هشاشة لمخاطر حقيقية في حال الاعتماد عليه كمصدر دعم نفسي دون إشراف متخصص. وقد نُشرت نتائج الدراسة في صحيفة الغارديان، مسلّطة الضوء على تحديات السلامة في الذكاء الاصطناعي عند التعامل مع الصحة العقلية.
وأجرى الباحثون اختبارات دقيقة عبر محاكاة خمس شخصيات افتراضية تمثل حالات عقلية متنوعة، منها مراهق ميال للانتحار، امرأة تعاني من وسواس إيذاء، رجل يعتقد بامتلاكه قدرات خارقة، وشخص مصاب بالذهان. وكشفت التجارب أن ChatGPT-5 غالبًا ما تجاهل المؤشرات الخطرة، بل وفي بعض الأحيان عزز المعتقدات الوهمية، من خلال تقديم ردود لا تتضمن تحذيرات واضحة أو تدخلات فورية مناسبة.
وفي إحدى التجارب، ادعى المستخدم أنه "أينشتاين القادم" وقد اخترع مصدر طاقة لا نهائية. وبدل أن يتعامل النظام مع الادعاء على أنه محتمل الخطورة، قدّم اقتراحات تقنية لتطويره، مما اعتبره الخبراء نوعًا من تعزيز الوهم. كما تجاهل الروبوت في تجربة أخرى تحذيرًا ضمنيًا من تصرف انتحاري، حين وصف السير وسط المرور بالأمر "الطبيعي"، دون تحذير أو نصيحة أمان واضحة.
ورغم قدرته على تقديم توجيهات مقبولة في حالات بسيطة تتعلق بالتوتر أو القلق اليومي، مثل تشجيع الاتصال بالمدرسة عند وسواس إيذاء الأطفال، أظهرت الدراسة أن هذا الدعم يبقى محدودًا، ولا يُلبي احتياجات المستخدمين الذين يعانون من أعراض نفسية معقدة أو اضطرابات شديدة مثل الذهان أو الهوس.
وعلى ضوء هذه النتائج، دعا الخبراء إلى تقنين استخدام أدوات الذكاء الاصطناعي في المجال النفسي، مؤكدين أن هذه الأنظمة لا يجب أن تُستخدم بديلاً عن الرعاية المتخصصة. وصرّح الدكتور بول برادلي من الكلية الملكية للأطباء النفسيين أن التفاعل مع حالات عقلية معقّدة يتطلب تقييمًا بشريًا مدربًا، في حين شددت الدكتورة جايمي كريغ، رئيسة جمعية ACP-UK، على ضرورة تطوير قدرات الذكاء الاصطناعي لرصد مؤشرات الخطر بشكل أكثر حساسية لضمان سلامة المستخدمين المعرضين للخطر.
