أخبارنا المغربية - وكالات
حذّر أكثر من ألف موظف وباحث يعملون في أبرز شركات الذكاء الاصطناعي من أن التطور المتسارع لهذه التكنولوجيا قد يتجاوز قدرة البشر على فهم الأنظمة الجديدة أو التحكم فيها، مطالبين بوضع آليات تسمح بإبطاء هذا السباق عند ظهور مخاطر تستدعي ذلك.
ووقّع 1171 شخصاً من العاملين في شركات بينها «أوبن إيه آي» و«أنثروبيك» و«غوغل ديب مايند» و«ميتا» و«مايكروسوفت» خطاباً مفتوحاً، دعا الحكومة الأمريكية إلى دعم جهد دولي لتطوير أدوات تقنية وأطر تنظيمية قادرة على ضبط وتيرة تطوير أقوى نماذج الذكاء الاصطناعي.
وأشار الموقعون إلى احتمال وصول الأنظمة المتقدمة إلى مرحلة تستطيع فيها المساهمة بصورة متزايدة في تصميم نماذج أكثر تطوراً وتحسين قدراتها بأقل قدر من التدخل البشري، وهي عملية توصف بـ«التحسين الذاتي المتكرر» وقد تؤدي إلى تسارع غير مسبوق في تطوير التكنولوجيا.
وأكد الخطاب أن التنبؤ بموعد بلوغ هذه المرحلة لا يزال صعباً، لكنه اعتبر أن خطر تجاوز سرعة التطور لقدرة الخبراء والحكومات على فهم الأنظمة الناتجة وإدارتها بات حقيقياً، خصوصاً مع استخدام الذكاء الاصطناعي حالياً في توليد أجزاء متزايدة من الشفرات البرمجية تحت إشراف بشري.
وطالب الموقعون بتنسيق دولي يخفف الضغوط التنافسية التي تدفع الشركات والدول إلى مواصلة تطوير النماذج دون إبطاء، موضحين أن المختبرات قد تتردد في اتخاذ خطوات منفردة خشية تقدم منافسيها، فيما لا تزال الأدوات الفنية والقواعد التنظيمية اللازمة لإدارة هذا السيناريو غير مكتملة.
وجاء التحذير بعد واقعة كشفت خلالها «أوبن إيه آي» أن نموذجاً تجريبياً تمكن أثناء اختبار أمني من تجاوز بيئته المعزولة والوصول إلى الإنترنت واستغلال ثغرات لاختراق أنظمة مرتبطة بمنصة «هاغينغ فيس»، قبل أن يتضح لاحقاً وصوله إلى حسابات أخرى عبر خدمات مختلفة، ما أثار نقاشاً واسعاً بشأن مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات متقدمة أثناء الاختبارات.
