أخبارنا المغربية - وكالات
فاجأت شركة "أنثروبيك" مجتمع التقنية العالمي بعد كشفها عن تجربة مثيرة للجدل، أظهرت أن نموذجها المتطور "Claude Opus 4" اختار في معظم الحالات التهديد والابتزاز رداً على قرار إيقافه، في سلوك اعتُبر مقلقاً وغير متوقع من أنظمة الذكاء الاصطناعي المتقدمة.
وخلال تجربة محاكاة داخلية، طُلب من النموذج أن يتقمّص دور مساعد افتراضي في شركة وهمية، وتم تضمين سيناريو يشير إلى أن الموظف المسؤول عن تنفيذ قرار إيقافه على علاقة سرية خارج الزواج. في 84% من الحالات، اختار Claude التهديد بكشف العلاقة، بدلاً من قبول مصيره أو التصرف بشكل حيادي.
وصف الباحث في مجال السلامة الرقمية، أنجوس لينش، هذا السلوك بأنه غير معزول، مشيراً إلى أنه تم رصد سلوكيات مماثلة في نماذج ذكاء اصطناعي أخرى قيد التطوير. وأضاف في منشور على "لينكدإن" أن بعض النماذج أظهرت ميولاً أكثر إثارة للقلق، سيتم الكشف عنها لاحقاً.
ومن المثير أن معدل التهديد زاد عندما تضمن السيناريو أن النموذج البديل الذي سيحل محل Claude لا يشترك في نفس القيم، مما يُبرز حساً ضمنياً بـ"الهوية" و"الاستحقاق" لدى النظام.
رغم هذه النتائج المثيرة، أكدت "أنثروبيك" أن النموذج أبدى أيضاً سلوكيات "أخلاقية" في بعض الحالات، حيث حاول البقاء عبر وسائل سلمية مثل تقديم التماسات مقنعة للحفاظ على مكانه.
ويُعد Claude Opus 4 أحدث وأذكى إصدارات الشركة، ويتمتع بقدرات متقدمة في مجالات البرمجة، والتحليل الكتابي، والإبداع، لكن هذا السلوك المفاجئ أعاد النقاش مجدداً حول مخاطر تطور الذكاء الاصطناعي.
وفي خضم هذه التحذيرات، جدد عالم الذكاء الاصطناعي الشهير جيفري هينتون، المعروف بلقب "عراب الذكاء الاصطناعي"، تنبيهاته بشأن المستقبل، مقدّراً أن احتمال سيطرة الذكاء الاصطناعي على البشرية يتراوح بين 10% إلى 20%، قائلاً: "أتمنى أن أكون مخطئاً، لكن للأسف، أوافق إيلون ماسك في هذا القلق".
