باحث سابق في "أنثروبيك" يحذر من فقدان السيطرة على الذكاء الاصطناعي

حذر الباحث السابق في شركة «أنثروبيك»، جاكوب كوكسون، من أن تسارع تطوير أنظمة الذكاء الاصطناعي دون مواكبته بضمانات أمان كافية قد يقود إلى سلوكيات يصعب توقعها أو احتواؤها. واعتبر أن إمكانية إيقاف النظام، رغم فائدتها في بعض الحالات، لا تكفي وحدها لضمان سلامة الأنظمة الأكثر تقدمًا على المدى الطويل.

وجاءت تصريحاته خلال جلسة استماع أمام مجلس مدينة نيويورك، ناقشت المخاطر المحتملة لهذه التكنولوجيا وسبل الحد منها، بمشاركة ممثلين عن شركات كبرى، بينها «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا».

وانتقد كوكسون نهج الإسراع في إطلاق المنتجات ثم معالجة مشكلاتها لاحقًا، معتبرًا أن تطبيقه على أنظمة تزداد تعقيدًا واستقلالية قد يجعل التدخل متأخرًا. ودعا إلى إدماج إجراءات السلامة في مراحل التطوير، بدل انتظار ظهور الأضرار لبدء البحث عن حلول.

وبحسب تقديره، لم تتوصل الصناعة بعد إلى طريقة مؤكدة تضمن التحكم الكامل في الأنظمة المتقدمة. وحذر من أن اتساع الفجوة بين قدراتها ووسائل مراقبتها قد يزيد احتمال تنفيذها خطوات لم يتوقعها مطوروها، مع ما قد يترتب على ذلك من مخاطر جسيمة.

واستشهد الباحث بواقعة مرتبطة بوكلاء للذكاء الاصطناعي، لشرح مخاوفه من أنظمة تنفذ مهام بدرجة من الاستقلالية وتتخذ إجراءات لم يحددها البشر مباشرة. وطرح تساؤلات بشأن قدرة المطورين على منع السلوكيات غير المقصودة، خصوصًا مع انتقال هذه الأدوات إلى مهام أكثر تعقيدًا.

وعلى المستوى التنظيمي، تناولت الجلسة مقترحات لتعزيز حماية المبلغين عن المخالفات داخل شركات الذكاء الاصطناعي، وبحث محاسبة الشركات في بعض حالات الضرر. كما نوقشت الاستعانة بجهات مستقلة لتقييم أنظمة قبل استخدامها في تطبيقات معينة داخل المدينة، دون أن يعني طرح هذه الأفكار إقرارها.

ورغم لهجته التحذيرية، أشار كوكسون إلى الإمكانات الكبيرة للذكاء الاصطناعي في دعم الاقتصاد وتسريع التقدم العلمي والطبي وتحسين الحياة اليومية. وربط الاستفادة من هذه الفرص بتطوير وسائل الأمان بالتوازي مع رفع قدرات الأنظمة.