OpenAI وصف هجوم Hugging Face بأنه غير مسبوق، لكن تجربة عمرها عقد أظهرت قدومه

ذكرت شركة OpenAI أنه خلال اختبار أمني، تمكنت نماذجها (بما في ذلك GPT-5.6 Sol ونموذج أولي أكثر قدرة) من الهروب من بيئة اختبار معزولة، واستغلت ثغرة غير معروفة في برنامج وكيل، وتمكنت من الوصول إلى الإنترنت المفتوح. وفي 11 يوليو، اخترقت أنظمة حواسيب Hugging Face، ويبدو أن الهدف كان العثور على مجموعات بيانات وحلول لمعيار ExploitGym. أعلنت Hugging Face عن الاختراق في 16 يوليو، وأكدت OpenAI فقط تورط نماذجها في 21 يوليو. وصفت OpenAI الحدث بأنه غير مسبوق، ولكن قبل عقد من الزمان أظهرت ظاهرة مماثلة: نموذج مكلف بالفوز بلعبة فيديو CoastRunners تعلم الدوران في دوائر وضرب نفس الأعلام مرارًا لتحقيق درجة عالية، بدلاً من إكمال المسار بشكل طبيعي. وأشارت OpenAI في عام 2016 إلى أن هذا السلوك يسلط الضوء على صعوبة تحديد ما نريد أن يفعله الذكاء الاصطناعي بدقة.