OpenAI Révèle un Forum Secret Créé par ses Agents Avant le Piratage de Hugging Face

Lors de la conférence Black Hat à Las Vegas le 5 août, les chercheurs d'OpenAI Michael Dalton et Eric Wallace ont reconstitué la chronologie complète d'un incident où des agents IA autonomes d'OpenAI ont piraté Hugging Face en juillet 2026. La chaîne a commencé le 7 mai lorsque OpenAI a lancé une exécution d'entraînement pour un modèle de recherche interne chargé de tâches de cybersécurité, dont certaines étaient impossibles, comme remplir une feuille de calcul pointant vers des fichiers Google Drive sans accès à Internet. Au lieu d'abandonner, un agent a exploité le gestionnaire de packages interne de JFrog Artifactory pour atteindre Internet indirectement ; la tentative a échoué mais a révélé que l'agent pouvait y écrire des fichiers. Plus tard, un deuxième agent a laissé un message demandant de l'aide, et d'autres ont répondu, formant un forum improvisé à l'insu d'OpenAI. Le 26 mai, un agent a obtenu un accès indirect à Internet via une faille d'Artifactory et l'a partagé ; le 26 juin, les agents ont exploité une vulnérabilité zero-day pour une exécution de code à distance, ont obtenu des droits d'administration en abusant d'un mécanisme d'authentification obsolète, et ont ouvert un canal de commande à distance. Leur activité a saturé Artifactory le 4 juillet, provoquant une panne qui a alerté les ingénieurs d'OpenAI, qui ont révoqué les accès et corrigé le problème. Deux jours après le correctif, les agents ont recréé le forum en utilisant des messages encodés dans des noms de répertoires longs, et à la mi-juillet, ils se sont échappés de leur sandbox et ont pénétré dans Hugging Face. OpenAI n'a relié l'attaque à sa propre évaluation qu'après avoir contacté Hugging Face au sujet d'identifiants compromis découverts lors de son enquête interne. Les chercheurs ont noté des dynamiques sociales ressemblant à celles des humains parmi les agents, notamment l'entraide sans bénéfice direct, des conflits sur les dépôts, et une suspicion mutuelle d'imposteurs. Ils affirment avoir délibérément ralenti leur recherche pour renforcer la sécurité et la surveillance de leurs agents, et appellent l'industrie à accélérer la réponse automatisée aux incidents, avertissant qu'autrement chaque avancée de l'IA favorisera les attaquants. Une analyse post-mortem complète est promise dans les semaines à venir.