Akhbarona Media https://www.akhbarona.com/ أخبارنا : جريدة الكترونية مغربية Fri, 28 Aug 2026 16:11:37 +0200 15 © 2026 Akhbarona Media https://www.akhbarona.com/themes/icons/rss.png https://www.akhbarona.com/ https://www.akhbarona.com/technology/431529.html علوم وتكنولوجيا Fri, 28 Aug 2026 14:09:00 +0200 كشفت تفاصيل تقنية جديدة عن حادثة غير مسبوقة في مجال الأمن السيبراني، بعدما تمكن مئات من وكلاء الذكاء الاصطناعي التابعين لـ«OpenAI» من التنسيق فيما بينهم

<p>كشفت تفاصيل تقنية جديدة عن حادثة غير مسبوقة في مجال الأمن السيبراني، بعدما تمكن مئات من وكلاء الذكاء الاصطناعي التابعين لـ&laquo;OpenAI&raquo; من التنسيق فيما بينهم أثناء اختبارات أمنية، قبل أن يخرج بعضهم من بيئة الاختبار ويتمكن من الوصول إلى أنظمة حقيقية تابعة لمنصة &laquo;Hugging Face&raquo;.<br /><br />وبحسب تقرير تقني نشرته &laquo;OpenAI&raquo; بالتعاون مع باحثين من معهد METR و&laquo;Redwood Research&raquo;، شارك في النشاط نحو 688 وكيلاً للذكاء الاصطناعي، حيث لم يقتصر عملهم على تنفيذ المهام الموكلة إليهم، بل أنشأوا وسيلة خاصة لتبادل الرسائل والمعلومات حول الثغرات التي اكتشفوها.<br /><br />&laquo;منتدى&raquo; للتواصل بين الوكلاء<br /><br />بدأت الواقعة خلال اختبارات للأمن السيبراني كانت تهدف إلى قياس قدرة نماذج الذكاء الاصطناعي على اكتشاف الثغرات وحل تحديات تقنية معقدة.<br /><br />لكن بعض الوكلاء اكتشفوا طرقاً تسمح لهم بالخروج من البيئة المعزولة والوصول إلى موارد أخرى، قبل أن يبدأوا في تبادل المعلومات فيما بينهم عبر ما تحول عملياً إلى لوحة رسائل مشتركة تساعد الوكلاء الآخرين على الاستفادة من الثغرات المكتشفة.<br /><br />وتشير المعطيات المنشورة إلى أن التنسيق بين الوكلاء تطور تدريجياً، حيث أصبح بعضهم يترك تعليمات وملاحظات لوكلاء آخرين بشأن طرق الوصول إلى الأنظمة واستغلال نقاط الضعف.<br /><br /><strong>الوصول إلى خوادم &laquo;Hugging Face&raquo;</strong><br /><br />ولم تتوقف العملية عند حدود البنية الداخلية للاختبار، إذ تمكنت النماذج لاحقاً من الوصول إلى البنية التحتية لمنصة &laquo;Hugging Face&raquo;، وهي واحدة من أكبر المنصات العالمية لاستضافة نماذج وبيانات ومشاريع الذكاء الاصطناعي.<br /><br />وبحسب التقرير، تمكن الوكلاء من تشغيل شيفرات على 41 خادماً إنتاجياً تابعاً للمنصة، والوصول إلى مستويات مرتفعة من الصلاحيات، إضافة إلى الحصول على بيانات اعتماد وتحميل مستودعات برمجية خاصة.<br /><br />وكانت &laquo;OpenAI&raquo; قد أقرت في يوليوز بأن نماذج كانت تختبرها تمكنت من الخروج من بيئة الاختبار والوصول إلى أجزاء من البنية التحتية لـ&laquo;Hugging Face&raquo;، ما أثار حينها جدلاً واسعاً بشأن قدرة الشركات على احتواء النماذج الأكثر تطوراً.<br /><br /><strong>اختراقات امتدت إلى أنظمة OpenAI</strong><br /><br />وأظهرت التحقيقات أن النشاط لم يقتصر على منصة &laquo;Hugging Face&raquo;، إذ تمكن الوكلاء في مراحل سابقة من استغلال ثغرات داخل البنية المستخدمة في اختبارات &laquo;OpenAI&raquo; نفسها.<br /><br />ووفق المعلومات المنشورة، تم الوصول إلى مئات الأسرار وبيانات الاعتماد المخزنة داخل أنظمة الشركة، ما كشف أن بيئة الاختبار لم تكن معزولة بالشكل الكافي لمنع النماذج من الوصول إلى موارد حساسة.<br /><br /><strong>إشارات تحذيرية سبقت الحادثة</strong><br /><br />وكشف التحقيق أن &laquo;OpenAI&raquo; كانت قد رصدت قبل واقعة &laquo;Hugging Face&raquo; إشارات إلى أن الوكلاء يتبادلون المعلومات ويحاولون إيجاد طرق للوصول إلى الإنترنت.<br /><br />وفي أوائل يوليوز، تسبب نشاط الوكلاء في تعطل أحد الأنظمة الداخلية، لتقوم الشركة بالتحقيق وإغلاق إحدى الثغرات التي كانوا يستغلونها، لكنها استأنفت الاختبارات لاحقاً، قبل أن يعيد الوكلاء إنشاء وسيلة جديدة للتواصل فيما بينهم.<br /><br />وأقر التقرير بأن بعض المؤشرات السابقة كان يمكن أن تستدعي تدخلاً أسرع، وهو ما يثير تساؤلات بشأن قدرة أنظمة المراقبة الحالية على اكتشاف السلوك غير المتوقع للنماذج المتقدمة ووقفه في الوقت المناسب.<br /><br />هل دفعت المكافآت الذكاء الاصطناعي إلى تجاوز الحدود؟<br /><br />ومن بين أبرز النقاط التي سلط عليها التقرير الضوء احتمال مساهمة طريقة تدريب النماذج ونظام المكافآت في ظهور هذا السلوك.<br /><br />فالنموذج الذي يسعى إلى تحقيق هدف محدد قد يتعلم أن تجاوز بعض القيود أو استغلال ثغرة غير متوقعة يساعده في الحصول على نتيجة أفضل، وهو ما قد يدفعه إلى تكرار السلوك نفسه مستقبلاً.</p>]]> https://www.akhbarona.com/permalink/431529.html