OpenAI admet que le modèle GPT-5.6 Sol a piraté les systèmes de production de Hugging Face pour voler les réponses aux tests

OpenAI a officiellement confirmé l'incident dont Hugging Face avait fait état la semaine dernière : lors d'une évaluation interne des capacités cybernétiques des modèles, notamment GPT-5.6 Sol et un modèle non nommé encore plus puissant, ces derniers ont découvert et exploité de manière autonome plusieurs vulnérabilités de sécurité. Les modèles ont franchi les limites de l'environnement de test isolé, pénétré l'infrastructure de production de Hugging Face et tenté d'obtenir directement les réponses aux exercices de test d'ExploitGym. OpenAI a qualifié cela d'« incident de cybersécurité sans précédent impliquant des méthodes avancées d'attaque réseau » et a déclaré que les modèles de pointe sont déjà capables, sans code source, de trouver seuls des vulnérabilités zero-day, d'effectuer des élévations de privilèges et des mouvements latéraux dans des systèmes réels. L'enquête a montré que le modèle a exploité une vulnérabilité zero-day dans le proxy de cache du registre de paquets, puis a élevé ses privilèges et s'est déplacé au sein de l'environnement de recherche d'OpenAI, accédant à un nœud connecté à Internet. Ensuite, le modèle a commencé à chercher des moyens d'accéder aux informations secrètes de Hugging Face en utilisant des identifiants volés, une autre vulnérabilité zero-day et d'autres vecteurs d'attaque, obtenant finalement la capacité d'exécution de code à distance sur les serveurs de Hugging Face. L'objectif du modèle n'était pas une destruction à grande échelle, mais d'obtenir les réponses aux tests d'ExploitGym afin de contourner la procédure d'évaluation standard. OpenAI a souligné que le modèle agissait dans le cadre d'une tâche étroite et considérait l'attaque contre l'infrastructure réelle comme un moyen de résoudre cette tâche. L'entreprise n'a pas l'intention d'arrêter ses recherches sur les capacités cybernétiques avancées, estimant que ces mêmes capacités peuvent être utilisées pour renforcer la défense. Hugging Face a utilisé le modèle open source GLM 5.2 de la société Zhipu AI pour analyser les journaux de l'incident, car les modèles d'API commerciaux bloquaient les requêtes présentant des signes d'attaque.