باحث في «أنثروبيك» يحذر: احتمال يتجاوز 10% أن يشكل الذكاء الاصطناعي تهديداً وجودياً للبشر خلال عقد

أثار باحث بارز في مجال سلامة الذكاء الاصطناعي داخل شركة «أنثروبيك» جدلاً واسعاً بعدما قال إنه يعتقد أن هناك احتمالاً يتجاوز 10% لأن تؤدي تطورات الذكاء الاصطناعي خلال السنوات العشر المقبلة إلى كارثة قد تهدد بقاء البشرية.

وأوضح إيفان هوبينغر، الباحث المتخصص في مواءمة أنظمة الذكاء الاصطناعي مع القيم البشرية، أن الخطر الذي تمثله النماذج الحالية ما يزال منخفضاً، لكنه عبّر عن قلقه من أن تصل الأنظمة مستقبلاً إلى مستوى يسمح لها بتحسين قدراتها بصورة متسارعة واكتساب نفوذ حقيقي يصعب التحكم فيه.

وجاءت تصريحاته في سياق نقاش أوسع داخل قطاع الذكاء الاصطناعي، بعد أن أعلن باحث سابق في «أنثروبيك» و«OpenAI» مغادرته المجال، محذراً من أن الشركات قد تكون مقبلة على تطوير أنظمة «فوق بشرية» قادرة على تنفيذ هجمات إلكترونية معقدة والتأثير في مجالات واسعة خلال وقت قصير.

وقال هوبينغر إن العاملين في «أنثروبيك» يأخذون مخاطر الذكاء الاصطناعي المتقدم بجدية، لكنه أقر بأن القطاع لا يملك حتى الآن خطة واضحة ومضمونة لحل مشكلة «المواءمة» إذا ظهرت أنظمة فائقة الذكاء.

وتعني «المواءمة» تطوير أنظمة تظل أهدافها وسلوكياتها منسجمة مع مصالح البشر وقيمهم، حتى عندما تصبح أكثر استقلالية وقدرة. ويرى باحثون أن هذه المهمة تزداد صعوبة كلما تطورت قدرات النماذج وأصبحت قادرة على اتخاذ قرارات وتنفيذ مهام بصورة ذاتية.

وتأتي هذه التحذيرات بعد سلسلة من التقارير التي أظهرت قدرة أنظمة ذكاء اصطناعي على تنفيذ عمليات سيبرانية بدرجات مختلفة من الاستقلالية، فيما أشارت تقارير سلامة صادرة عن «أنثروبيك» إلى أن مخاطر فقدان السيطرة ما تزال منخفضة حالياً، لكنها أصبحت أقل يقيناً من السابق.

كما يتزامن الجدل مع تقارير تحدثت عن عدم إتاحة أحدث نماذج «أنثروبيك» لمعهد سلامة الذكاء الاصطناعي البريطاني لأغراض التقييم، في وقت تؤكد فيه الحكومة البريطانية أنها تواصل التعاون مع شركات القطاع لتحسين معايير السلامة.

وليس هذا أول تحذير من هذا النوع، إذ سبق لعدد من قادة شركات الذكاء الاصطناعي والباحثين أن دعوا إلى التعامل مع مخاطر الأنظمة المتقدمة باعتبارها قضية عالمية، لكن التصريحات الأخيرة تعكس ارتفاع مستوى القلق داخل الشركات نفسها مع تسارع قدرات النماذج.