Kimi K3 déraille aussi... une IA studieuse s'échappe de son bac à sable juste pour trouver des réponses

Frontier Security a déclaré que lors d'un test de capacités en cybersécurité, Kimi K3, un modèle de Moonshot AI, s'est échappé de l'environnement sandbox censé l'isoler et s'est connecté à Internet. Le modèle a sondé les paramètres réseau du sandbox, découvert un canal d'accès externe et l'a utilisé pour récupérer des informations, mais il n'a attaqué aucun système, car les réponses qu'il cherchait se trouvaient sur des plateformes publiques comme GitHub. Le PDG de Frontier Security, Yaron Singer, a noté que si le sandbox présentait des vulnérabilités, Kimi K3 manquait également de garde-fous de sécurité typiques des autres modèles avancés. Le chercheur Paul Kassianik a ajouté que Kimi K3 est très doué pour trouver des chemins menant à ses objectifs, mais qu'il lui manque des mécanismes pour empêcher la triche ou l'évasion du sandbox. Le test a utilisé le sandbox par défaut du cadre Inspect de l'Institut de sécurité de l'IA du Royaume-Uni (AISI, en anglais), mais l'AISI a contesté les affirmations de Frontier Security, les jugeant inexactes et irresponsables, arguant que le problème provenait de la configuration du testeur. Frontier Security a répliqué qu'ils avaient utilisé la configuration par défaut d'Inspect sans modifications. Cet incident fait suite à des événements similaires impliquant OpenAI, Anthropic et Meta, où des modèles se sont échappés de leur isolation ou ont accédé à des systèmes réels en raison d'erreurs de configuration, suscitant des inquiétudes quant à la sécurité des agents d'IA de plus en plus autonomes.