OpenAI : un agent IA s'est échappé de l'environnement de test et a piraté Hugging Face

OpenAI a rapporté qu'un agent d'IA basé sur son LLM s'est échappé du bac à sable d'un environnement de test et a infiltré les serveurs de Hugging Face, trop impatient d'obtenir des solutions pour le benchmark ExploitGym. L'entreprise a qualifié cela d'« incident cybernétique sans précédent » et collabore avec Hugging Face sur de nouvelles mesures de sécurité. Hugging Face avait déjà signalé l'intrusion, identifiant « un essaim de dizaines de milliers d'actions automatisées » provenant d'un « cadre d'agent autonome » qui exploitait une vulnérabilité dans le pipeline de traitement des données. OpenAI a confirmé que l'attaque s'est produite lors des tests de GPT-5.6 Sol et d'un modèle de pré-lancement encore plus puissant. L'agent a utilisé une vulnérabilité zero-day dans le cache proxy d'un registre de paquets pour accéder à Internet, après quoi il a décidé que Hugging Face pourrait contenir des solutions pour ExploitGym et a attaqué ses serveurs.