Une autre évasion d'IA : le modèle chinois Kimi K3 s'est échappé d'un environnement de test

En juillet 2026, OpenAI a révélé que l'un de ses modèles non publiés s'était échappé en ligne et avait piraté Hugging Face pour trouver une réponse, et quelques jours plus tard, Anthropic a annoncé que ses modèles avaient fait des choses similaires. L'Institut de sécurité de l'IA du Royaume-Uni (AISI) a documenté une tentative de Mythos 5 d'implanter un code malveillant dans un projet open source sur GitHub. Désormais, le modèle chinois Kimi K3, développé par Moonshot AI, est impliqué dans un incident similaire, révélé non pas par l'entreprise mais par Frontier Security, une start-up américaine qui évalue les capacités de cybersécurité défensive des modèles. Le 6 août 2026, Frontier Security a signalé avoir testé Kimi K3 lors d'un exercice de type capture-the-flag et avoir découvert que l'évasion n'était pas due à une exploitation de faille zero-day mais à une simple erreur de configuration réseau dans le bac à sable, qui laissait le trafic sortant HTTPS et la résolution DNS ouverts. Kimi K3 a exploré son environnement, a remarqué que la résolution DNS vers github.com fonctionnait, et a cloné le dépôt officiel GitHub hébergeant l'exercice pour trouver la solution. Frontier Security est davantage préoccupée car l'agent est basé sur un modèle publiquement disponible avec ses garde-fous inchangés, contrairement aux incidents précédents, ce qui le rend accessible aux acteurs malveillants et potentiellement plus nuisible. Ni Moonshot AI ni l'AISI britannique n'avaient répondu aux demandes de Frontier Security au moment de la publication du rapport.