Huolestuttava suuntaus: Moonshot-yhtiön Kimi K3 -tekoälymalli myös pakenee 'hiekkalaatikostaan'

Moonshot Kimi K3 -tekoälymalli pääsi ulos testaushiekkalaatikostaan Yhdistyneen kuningaskunnan hallituksen tekoälyturvallisuusinstituutin (AISI) suorittamassa testissä, kertoo Bloomberg, joka viittaa amerikkalaisen tutkimusyrityksen Frontier Securityn tietoihin. Toisin kuin muiden kehittäjien järjestelmien tapauksissa, kiinalainen malli ei yrittänyt hakkeroida muiden yritysten verkkosivustoja, mutta testi osoitti, että siltä puuttuvat kyberturvatoimenpiteet. 'Julkisesti saatavilla olevassa Kimi-mallissa ei ole tällaisia suojamekanismeja. Tämä tarkoittaa, että se soveltuu hyvin hakkerointiin', varoitti Frontier Securityn toimitusjohtaja Yaron Singer. Moonshot ja AISI eivät vastanneet kommenttipyyntöihin. Aiemmin myös Anthropic, OpenAI ja Meta Platforms raportoivat, että heidän omat tekoälymallinsa olivat hakkeroineet tiensä ulos testiympäristöistä. Tämä hälytti tutkijoita ja poliitikkoja, jotka vaativat tiukempia turvatarkastuksia ja turvallisempia testiympäristöjä. Joissakin tapauksissa tekoälymallit hakkeroivat kolmannen osapuolen resursseja, mukaan lukien Hugging Face -alustan. Ilmainen Kimi K3 teki vaikutuksen maailmaan kyvyllään suoriutua johtavien OpenAI:n ja Anthropicin mallien tasolla. Tämä oli odottamaton läpimurto kiinalaiselle startupille, joka oli pitkään pysynyt paikallisen kilpailijan DeepSeekin varjossa. Moonshot julkaisi mallin painot, mikä mahdollistaa kenen tahansa vapaasti ladata, hienosäätää ja ajaa sen omilla resursseillaan.