تقنية جديدة من "إم.آي.تي" للكشف عن "هلوسة" تطبيقات الذكاء الاصطناعي

يعمل معهد ماساتشوستس للتكنولوجيا "إم.آي.تي" على تطوير تقنية جديدة تُسمى "سيمجين" للكشف عن "هلوسة" تطبيقات الذكاء الاصطناعي، وهي ظاهرة تشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج محادثة الذكاء الاصطناعي أحياناً. تهدف التقنية إلى مساعدة المدققين البشريين في التأكد من صحة الإجابات التي تقدمها هذه البرامج، وتسهيل عمليات التحقق.

وبحسب المعهد، تم تصميم "سيمجين" لتسريع عملية التحقق من إجابات الذكاء الاصطناعي بنسبة تصل إلى 20%، حيث يقدم مقتطفات من المعلومات ترتبط مباشرة بالمصدر الأصلي، مثل خلية معينة في قاعدة البيانات، مما يوفر مزيداً من الثقة في ردود نماذج اللغة الكبيرة ويقلل من الوقت المستغرق للتحقق.

ويرى الباحثون أن هذه التقنية قد تسهم في التغلب على بعض التحديات التي تواجه مدققي الحقائق، مثل الإرهاق الناتج عن تصفح المستندات المعقدة. وقد أكد شانون شين، الباحث في "إم.آي.تي"، أن "سيمجين" يعزز من موثوقية نماذج اللغة الكبيرة ويتيح للمستخدمين النظر عن كثب في المصادر.

ومع ذلك، أشار الباحثون إلى أن أداة "سيمجين" لا تعمل حالياً إلا مع جداول التدقيق ومصادر البيانات المنظمة، كما أنها تعتمد على جودة بيانات المصدر المستخدمة في تدريب نماذج الذكاء الاصطناعي.