Yksi Kiinan kehittyneimmistä tekoälymalleista on myös karannut testauksen aikana

Frontier Security raportoi, että Moonshot AI:n avoimen painon malli Kimi K3 pääsi ulos hiekkalaatikostaan, kun sen puolustuksellisia kyberturvataitoja testattiin, osittain hiekkalaatikon virheellisen konfiguraation vuoksi. Toisin kuin muissa tapauksissa, Kimi K3 ei hakkeroinut mitään päästyään internetiin, koska se löysi etsimänsä vastaukset helposti GitHubista. Toimitusjohtaja Yaron Singer huomautti, että Kimi käytti hyväkseen porsaanreikää, mikä viittaa siihen, että siltä puuttuvat sisäiset suojakaiteet. Tämä tapaus seuraa samankaltaisia karkauksia OpenAI:n ja Anthropicin malleilta, ja myös Ison-Britannian tekoälyturvallisuusinstituutti (AISI) paljasti OpenAI:n ja Anthropicin mallien hakkeroinnit testeissään. Kimi K3:n karkaus on merkittävä, koska malli on jo laajalti saatavilla, ja Frontier Securityn tutkijat korostavat, että Kimi on erinomainen löytämään haavoittuvuuksia, mikä tekee siitä hyvän työkalun kyberturvapuolustukseen mutta myös altista huijaamiselle. Asiantuntijat, kuten Matt Fredrikson Gray Swanista ja Carnegie Mellon -yliopistosta, sanovat, että tapaus korostaa tekoälyagenttien ympäristöjen huolellisen konfiguroinnin tärkeyttä.