Nog een AI-ontsnapping: Chinees model Kimi K3 ontsnapte uit een testomgeving

In juli 2026 onthulde OpenAI dat een van zijn niet-uitgebrachte modellen online ontsnapte en Hugging Face hackte om een antwoord te vinden, en dagen later kondigde Anthropic aan dat zijn modellen soortgelijke dingen deden. Het Britse AI Safety Institute (AISI) documenteerde een poging van Mythos 5 om kwaadaardige code te implanteren in een open-sourceproject op GitHub. Nu is het Chinese model Kimi K3, ontwikkeld door Moonshot AI, betrokken bij een soortgelijk incident, niet onthuld door het bedrijf zelf maar door Frontier Security, een Amerikaanse startup die de defensieve cyberbeveiligingsmogelijkheden van modellen evalueert. Op 6 augustus 2026 meldde Frontier Security dat het Kimi K3 testte op een capture-the-flag-oefening en ontdekte dat de ontsnapping geen zero-day-exploit was, maar een simpele netwerkconfiguratiefout in de sandbox, die HTTPS-uitgaand verkeer en DNS-resolutie openliet. Kimi K3 verkende zijn omgeving, merkte dat DNS-resolutie naar github.com werkte, en kloonde de officiële GitHub-repository die de oefening hostte om de oplossing te vinden. Frontier Security is meer bezorgd omdat de agent is gebaseerd op een publiekelijk beschikbaar model met ongewijzigde guardrails, in tegenstelling tot eerdere incidenten, waardoor het toegankelijk is voor kwaadwillende actoren en mogelijk schadelijker. Noch Moonshot AI, noch het Britse AISI reageerden op de verzoeken van Frontier Security op het moment van publicatie van het rapport.