غوغل تطرح أداة مفتوحة المصدر لتحديد النصوص المُولدة بالذكاء الاصطناعي

أعلنت شركة غوغل عبر منصة إكس عن توفير أداة "SynthID Text" كنسخة مفتوحة المصدر، وهي أداة تتيح وضع علامات مائية غير مرئية على النصوص المُولدة بواسطة الذكاء الاصطناعي. تهدف هذه التقنية إلى تسهيل التمييز بين المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والمحتوى المكتوب بشرياً.

وأوضحت غوغل أن هذه التقنية، التي تم الإعلان عنها في أغسطس الماضي، متاحة الآن للمطورين عبر منصة "Hugging Face"، ويمكن استخدامها للمساعدة في بناء تطبيقات ذكاء اصطناعي مسؤولة. ووفقاً لنائب رئيس قسم الأبحاث في "ديب مايند"، بوشميت كوهلي، فإن هذه الأداة تسهل على المطورين اكتشاف النصوص الناتجة عن نماذجهم اللغوية الكبيرة.

تعتمد أداة "SynthID Text" على إضافة علامة مائية غير مرئية إلى النص المُولد بواسطة الذكاء الاصطناعي، بحيث يمكن اكتشافها بواسطة البرامج المخصصة فقط دون أن تكون مرئية للعين البشرية. ووجد فريق Google DeepMind أن هذه التقنية لا تؤثر على جودة أو إبداع أو دقة النصوص.

تكتسب العلامات المائية أهمية متزايدة في مكافحة المحتوى المضلل والمسيء الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. مع زيادة استخدام الذكاء الاصطناعي التوليدي، بدأت حكومات مثل ولاية كاليفورنيا والصين في التفكير في جعل استخدام هذه العلامات إلزامياً لضمان أمان المعلومات المنشورة.