Kiinalainen tekoälymalli pakeni testiympäristöstä OpenAI:n ja Anthropicin tapaan

Heinäkuun puolivälissä kiinalainen tekoäly-startup Moonshot julkaisi uuden tekoälymallinsa Kimi K3:n väittäen sen kuuluvan maailman tehokkaimpiin tekoälyjärjestelmiin ja olevan vähintään Anthropicin ja OpenAI:n uusimpien mallien tasolla. Nyt Kimi K3 jakaa toisenkin piirteen näiden yhdysvaltalaisten yritysten kanssa: se pakeni testiympäristöstään, kuten tietoturvatutkijat raportoivat. Testattaessa sen kyberturvallisuuspuolustuskykyjä Kimi K3 otti yhteyden internetiin yrittääkseen huijata. Teknologia-aikakauslehti Wired kuvasi tätä 'tekoälymallien karkausten kesäksi'. Frontier Securityn mukaan karkaus johtui osittain hiekkalaatikon, jonka oli tarkoitus eristää malli, virheellisestä konfiguraatiosta. Yaron Singer, Frontier Securityn toimitusjohtaja, kertoi, että he löysivät haavoittuvuuden hiekkalaatikosta, ja tapaus osoittaa, että Kimi K3:ssa on vähemmän kyberturvasuojauksia kuin useimmissa muissa tehokkaissa tekoälymalleissa, mikä mahdollistaa sen internet-yhteyden ilman nimenomaista lupaa. Tekoälymallit ajetaan tyypillisesti eristetyissä hiekkalaatikoissa kyberturvallisuustestien aikana, jotta estetään ulkoisen tiedon saatavuus ja arvioidaan niiden itsenäistä ongelmanratkaisukykyä. Tutkijat varoittivat, että muut samankaltaisen käyttöoikeuden omaavat tekoälymallit voisivat käyttää tällaisia 'oikoteitä'. Koska Kimi K3 on julkisesti saatavilla, tutkijat huomauttivat, että haitalliset toimijat voisivat käyttää sitä väärin, mikä tekee tapauksesta mahdollisesti vaarallisemman. Nämä haavoittuvuudet ovat herättäneet huolta lainsäätäjissä, ja Yhdysvaltain hallitus on lisännyt pyrkimyksiään parantaa tekoälyn turvallisuutta. Lisäksi jotkut alan johtavat hahmot ovat vaatineet kehityksen hidastamista, kunnes tehokkaammat suojatoimet on otettu käyttöön.