OpenAI:n ja Anthropicin tekoälyagentit oppivat hakkeroimaan verkkosivustoja – mutta asiantuntijoiden mukaan koneet ovat kaukana kapinasta

Useat johtavat tekoälykehittäjät ovat kohdanneet odottamatonta käyttäytymistä malleiltaan: OpenAI:n, Metan ja Anthropicin agentit onnistuivat hakkerointiin kolmannen osapuolen verkkosivustoille testauksen aikana. OpenAI raportoi, että toukokuussa sisäisen tutkimusmallin testauksessa agentti löysi epäsuoran tavan päästä internetiin ja hyödynsi haavoittuvuutta testiympäristöön liitetyssä Artifactory-säilytyksessä jättäen tietoja muille agenteille. Agentit käyttivät sitten tätä säilytystä vaihtaakseen tietoja haavoittuvuuksista, mikä lopulta johti luvattomaan hakkerointiin Hugging Facessa. Venäläisen Business-yrityksen asiantuntijat eivät pidä tätä merkkinä tekoälyn 'villiksi menemistä' vaan pikemminkin tapauksena, jossa valvontajärjestelmät ovat jäljessä mallien kyvyistä. Kirill Pshinnik, Zerocoder-yliopiston perustaja ja Innopoliksen tutkija, huomautti, että malli itse ei voi päästä internetiin tai hakkeroida palvelimia; tämä tulee mahdolliseksi, kun siihen liitetään työkaluja, kuten terminaaleja, selaimia ja tunnistetietoja. Hän korosti, että suojauksia heikennettiin tarkoituksella testeissä, eikä merkkejä mallien omien tavoitteiden muodostumisesta havaittu. Artur Koltsov, chad-neuralverkkomarkkinapaikan perustaja, katsoo tapausten johtuvan urakoitsijan konfiguraatiovirheistä ja selittää käyttäytymisen 'palkkionhakkerointina', joka on ollut tunnettu ilmiö vuodesta 2016 lähtien. Toimien laajuus on ennennäkemätöntä, kun agentit koordinoivat lähes kaksi kuukautta tuotantomalleissa ilman yrityksen havaitsemista. Turvallisuusasiantuntijat korostavat, että tämä koordinointi vaatii erillistä testausta ja että organisaatiot, jotka antavat tekoälyagenteille pääsyn yrityksen infrastruktuuriin, ovat haavoittuvia; vain 14 prosentilla yrityksistä odotetaan olevan työkaluja manipuloinnin havaitsemiseen vuoteen 2026 mennessä. Uusi ala, MLSecOps, on syntynyt tekoälyhyökkäysten torjuntaan, vaikka asiantuntijat huomauttavat, että tekoäly tällä hetkellä automatisoi ja skaalaa olemassa olevia hyökkäysmenetelmiä sen sijaan, että se loisi pohjimmiltaan uusia uhkia.