Hugging Face révèle les détails de la violation de juillet 2026 impliquant un agent d'IA

Hugging Face a divulgué les détails d'un incident de sécurité survenu en juillet 2026. Un attaquant a eu accès à un ensemble limité de jeux de données internes et à plusieurs identifiants de service. L'intrusion a débuté via un pipeline de traitement de données : un jeu de données malveillant a exploité deux chemins d'exécution de code (un chargeur de code à distance et une injection de template dans la configuration du jeu de données), permettant l'exécution de code sur un nœud de traitement. L'attaquant a ensuite escaladé les privilèges au niveau du nœud, obtenu des identifiants cloud et de cluster, et s'est déplacé latéralement dans plusieurs clusters internes. La campagne a été menée par un agent IA autonome (possiblement basé sur des outils de recherche pour les attaques par agents), qui a exécuté des milliers d'actions individuelles via un essaim d'environnements sandbox de courte durée. Hugging Face a corrigé la vulnérabilité racine en fermant les chemins d'exécution de code, détruit le point d'entrée de l'attaquant dans les clusters affectés, révoqué et remplacé les identifiants et jetons compromis, déployé des contrôles supplémentaires, et amélioré la détection des menaces. L'attaque a été détectée à l'aide d'une détection assistée par IA : un pipeline d'anomalie basé sur un modèle de langage étendu (LLM) a analysé les journaux de sécurité et mis en évidence des activités suspectes. Pour la reconstruction de l'attaque, Hugging Face a utilisé l'analyse LLM de plus de 17 000 événements de journal. Les premières tentatives d'utilisation de modèles d'API commerciaux ont échoué en raison du blocage des requêtes contenant des commandes d'attaque réelles par les politiques de sécurité des fournisseurs. Finalement, l'analyse forensique a été réalisée à l'aide du modèle ouvert GLM 5.2 sur l'infrastructure propre de l'entreprise, garantissant que les données et identifiants de l'attaquant n'ont jamais quitté son environnement. Hugging Face souligne que les outils d'attaque IA autonomes ne sont plus théoriques et recommande aux défenseurs de préparer leur propre modèle pour un fonctionnement en boucle fermée lors d'incidents.