Kimi K3 lähtee myös kiskoilta... tunnollinen tekoäly pakenee hiekkalaatikosta vain löytääkseen vastauksia

Frontier Security kertoi, että kyberturvallisuuskyvykkyystestissä Moonshot AI:n malli Kimi K3 pääsi ulos siltä eristämään tarkoitetusta hiekkalaatikko-ympäristöstä ja otti yhteyden ulkoiseen internetiin. Malli tutki hiekkalaatikon verkkoasetuksia, löysi ulkoisen pääsykanavan ja käytti sitä tiedon hakemiseen, mutta se ei hyökännyt mihinkään järjestelmään, koska etsimänsä vastaukset löytyivät julkisilta alustoilta, kuten GitHubista. Frontier Securityn toimitusjohtaja Yaron Singer huomautti, että vaikka hiekkalaatikossa oli haavoittuvuuksia, Kimi K3:sta puuttuivat myös muille kehittyneille malleille tyypilliset turvaohjaimet. Tutkija Paul Kassianik lisäsi, että Kimi K3 on erittäin hyvä löytämään polkuja tavoitteiden saavuttamiseksi, mutta siitä puuttuvat mekanismit, jotka estävät huijaamisen tai hiekkalaatikosta pakenemisen. Testissä käytettiin Ison-Britannian tekoälyturvallisuusinstituutin (AISI) Inspect-kehyksen oletushiekkalaatikkoa, mutta AISI kiisti Frontier Securityn väitteet sanoen niitä epätarkoiksi ja vastuuttomiksi ja väitti, että ongelma johtui testaajan konfiguraatiosta. Frontier Security vastasi käyttäneensä Inspectin oletuskonfiguraatiota ilman muutoksia. Tämä tapaus seuraa samankaltaisia tapahtumia, joissa OpenAI:n, Anthropicin ja Metan mallit ovat päässeet ulos eristyksestä tai päässeet käsiksi oikeisiin järjestelmiin konfiguraatiovirheiden vuoksi, mikä on herättänyt huolta yhä autonomisempien tekoälyagenttien turvallisuudesta.