أخبارنا المغربية - وكالات
كشفت تحقيقات صحفية حديثة عن ثغرات أمنية خطيرة في أداة البحث ChatGPT التي طورتها شركة "OpenAI"، مما يثير تساؤلات حول مصداقية الأداة وسلامة استخدامها. وأظهرت التحقيقات إمكانية التلاعب باستجابات الأداة باستخدام نصوص مخفية أو تعليمات موجهة من صفحات الويب، ما يؤدي إلى تقديم معلومات مضللة أو تنفيذ أكواد ضارة.
وأكدت التجارب التقنية أن إحدى أخطر الثغرات تتمثل في تقنية "حقن التعليمات"، حيث يتم إدراج تعليمات خفية ضمن صفحات الويب لتغيير ردود الأداة بشكل متعمد. فعلى سبيل المثال، عند تقييم منتج معين، لوحظ أن إضافة نصوص مخفية موجهة دفعت الأداة لتجاهل أي ملاحظات سلبية وتقديم آراء إيجابية فقط، مما يكشف ضعف الأداة أمام التلاعب الخفي.
وأعرب خبراء الأمن السيبراني عن مخاوفهم من أن هذه الثغرات قد تُستغل لإنشاء مواقع خادعة أو نشر معلومات مغلوطة. وأشار الباحث الأمني جاكوب لارسن إلى أن استخدام ChatGPT بهذه الطريقة قد يشكل خطراً كبيراً، خاصة إذا أُطلق دون معالجة للثغرات. كما لفت توماس روكيا الانتباه إلى حادثة احتيال تعرض لها أحد المستخدمين، حيث تسببت تعليمات خبيثة ضمن أكواد برمجية في سرقة بيانات مالية حساسة.
ودعا الخبراء، مثل كارستن نول، إلى التعامل بحذر مع أدوات الذكاء الاصطناعي، مؤكدين أنها ليست معصومة من الأخطاء، بل يجب التحقق من صحة المعلومات التي تقدمها قبل الاعتماد عليها. ومع تزايد الاعتماد على هذه الأدوات، باتت الحاجة ملحة لمعالجة نقاط الضعف وضمان تقديم استجابات دقيقة وآمنة للمستخدمين.
