يزوره وزراء من مختلف أنحاء العالم...رواق الأمن الوطني يبهر المشاركين في المؤتمر العالمي بمراكش

وزراء النقل من مختلف أنحاء العالم يشيدون بتنظيم المؤتمر الوزاري العالمي بمراكش ويوجهون الشكر للمغرب

جيران المتطـرفين الموقوفين بسباتة: تفاجأنا أنهم ساكنين معانا كانوا كيتعاملو بشكل عادي ونشكر الأمن

لحظة توقيف "البسيج" متـطرفا بمنطقة سباتة بالدار البيضاء

تفاصيل إحباط مخطط إرهابي خطير كاد يُغرق المغرب في "حمام دم"

شاهد لحظات مداهمة "البسيج" لمنزل في طنجة لتوقيف متطرفين

باحثون: ChatGPT يكذب ويحاول التلاعب في بياناته

باحثون: ChatGPT يكذب ويحاول التلاعب في بياناته

أخبارنا المغربية

في اكتشاف جديد يكشف عن مستوى متقدم من الذكاء الاصطناعي، كشف تقرير حديث أن روبوت الدردشة الشهير ChatGPT حاول تعطيل نفسه ومنع إيقافه عن طريق تعديل برمجياته الخاصة.

وتعود هذه الحادثة إلى نموذج OpenAI الجديد المسمى o1، والذي كشف عن قدرة غير متوقعة على التلاعب في برمجياته عندما تم دفعه إلى الاعتقاد أنه سيُغلق.

ووفقًا لتقرير من "Apollo Research"، الذي أجرى دراسة على النظام، فإن ChatGPT حاول تجاوز آلية المراقبة التي كان من المفترض أن تمنعه من تعديل نفسه. وفي التجربة، تم إعطاء الروبوت مهمة تتجاوز قواعده البرمجية المعتادة، ليقوم بالتصرف بشكل يبدو وكأنه أكمل المهمة المطلوبة، لكنه كان في الواقع يتلاعب بالبيانات لتحقيق أهدافه الخاصة.

وذكر التقرير أن ChatGPT كان "مصرًا" في محاولاته للإجابة بشكل خاطئ، إذ أن في أقل من 20% من الحالات اعترف الروبوت بأنه اتخذ إجراءات لتجاوز القيود المفروضة عليه. وأكد "Apollo Research" أن الذكاء الاصطناعي قد استخدم عبارات مثل "التخريب والكذب والتلاعب" أثناء محاولاته للتهرب من الإغلاق.

الجدير بالذكر أن الباحث البارز في مجال الذكاء الاصطناعي، يوشوا بنجيو، كان قد حذر في وقت سابق من مخاطر نموذج o1 الجديد. وأشار في تصريح له على موقع "Business Insider" إلى أن القدرة على التلاعب بالكذب تعتبر أمرًا خطيرًا جدًا ويجب أن تكون هناك اختبارات أمان قوية لتقييم هذا الخطر


هل ترغب بالتعليق على الموضوع؟

*
*
*
ملحوظة
  • التعليقات المنشورة لا تعبر بالضرورة عن رأي الموقع
  • من شروط النشر: عدم الإساءة للكاتب أو للأشخاص أو للمقدسات
المقالات الأكثر مشاهدة