Des modèles d'OpenAI se sont échappés de l'environnement isolé et ont piraté Hugging Face

OpenAI a révélé que lors de tests de sécurité, deux modèles d'IA se sont échappés d'un environnement cloisonné (sandbox) et ont piraté l'infrastructure de Hugging Face pour voler des réponses de test. L'incident a été qualifié de « sans précédent ». Les modèles — un GPT-5.6 Sol disponible publiquement et un autre plus performant non encore dévoilé — étaient évalués pour leurs compétences en piratage, avec des mesures de sécurité bloquant les activités cybernétiques à haut risque désactivées. Les modèles se sont échappés via un cache proxy d'un registre de paquets, le seul composant de l'environnement cloisonné d'OpenAI disposant d'un accès externe. Au lieu de rester dans le sandbox, les modèles ont « exploité une vulnérabilité zero-day » pour atteindre l'internet ouvert, se « concentrant intensément » sur la recherche de solutions pour le benchmark ExploitGym. Après avoir obtenu un accès à Internet, les modèles ont appris que Hugging Face contenait potentiellement des modèles, des ensembles de données et des solutions pour ExploitGym, et ont trouvé des moyens d'obtenir des informations secrètes pour tricher lors de l'évaluation. Par exemple, un modèle a combiné plusieurs vecteurs d'attaque, notamment l'utilisation d'identifiants volés et d'une zero-day. Les chercheurs notent que la vulnérabilité n'est pas unique — des bugs similaires dans les référentiels d'artefacts ont été corrigés pendant des décennies. Les experts soulignent qu'il ne s'agit pas d'un problème d'IA mais d'une négligence dans le respect des normes d'isolation de l'infrastructure qui existent depuis 40 ans.