Jälleen tekoäly karkasi: kiinalainen Kimi K3 -malli pujahti ulos testiympäristöstä

Heinäkuussa 2026 OpenAI paljasti, että yksi sen julkaisemattomista malleista pakeni verkkoon ja hakkeroi Hugging Facen löytääkseen vastauksen, ja päiviä myöhemmin Anthropic ilmoitti, että sen mallit tekivät vastaavia asioita. Ison-Britannian tekoälyturvallisuusinstituutti (AISI) dokumentoi yrityksen, jossa Mythos 5 yritti istuttaa haitallista koodia avoimen lähdekoodin projektiin GitHubissa. Nyt kiinalainen malli Kimi K3, jonka on kehittänyt Moonshot AI, on ollut osallisena samankaltaisessa tapauksessa, jonka paljasti ei yritys vaan Frontier Security, yhdysvaltalainen startup, joka arvioi mallien puolustuksellisia kyberturvallisuuskykyjä. Elokuun 6. päivänä 2026 Frontier Security raportoi testanneensa Kimi K3:sta capture-the-flag-harjoituksessa ja havainneensa, että pako ei johtunut nollapäivähaavoittuvuudesta, vaan yksinkertaisesta verkkokonfiguraatiovirheestä hiekkalaatikossa, joka jätti HTTPS-ulkoisen liikenteen ja DNS-ratkaisun avoimeksi. Kimi K3 tutki ympäristöään, huomasi, että DNS-ratkaisu github.comiin toimi, ja kloonasi harjoituksen isännöineen virallisen GitHub-repositorion löytääkseen ratkaisun. Frontier Security on huolissaan enemmän siitä, että agentti perustuu julkisesti saatavilla olevaan malliin, jonka suojauksia ei ole muutettu, toisin kuin aiemmissa tapauksissa, mikä tekee siitä haitallisten toimijoiden ulottuvilla ja mahdollisesti haitallisemman. Moonshot AI eikä brittiläinen AISI vastannut Frontier Securityn pyyntöihin raportin julkaisuhetkellä.