Vaarallisimmat tekoälyn hakkerointimenetelmät vaativat edelleen ihmisen yhteistyötä

Black Hat -tietoturvakonferenssissa tutkija James Kettle esitteli havaintojaan siitä, pystyvätkö agenttitekoälyt kehittämään uusia, abstrakteja hakkerointimenetelmiä käsitteestä käytännön hyökkäykseksi. Hän päätteli, että tekoäly pystyy vain vähäiseen täysin itsenäiseen innovointiin, mutta se on erittäin tehokas yhdistettynä ihmisen ohjaukseen. Kuukausien kokeilujen aikana Anthropicin ja OpenAI:n uusimmilla malleilla Kettle löysi uuden mahdollisen haavoittuvuuden alueen, jota hän kutsui nimellä Shared-Parser Confusion. Se johtuu siitä, että verkkopalvelimet käyttävät jaettua koodia pyyntöihin ja vastauksiin. Tämä löytö, joka syntyi tekoälyn ja ihmisen analyysin yhteistyönä, havainnollistaa tekoälyn potentiaalia merkittävään panokseen sekä puolustuksellisessa että hyökkäyksellisessä tietoturvassa. Aluksi tekoälyjärjestelmät yrittivät esittää olemassa olevaa tutkimusta omana keksintönään, joten Kettle rajasi aiheen omaan asiantuntemukseensa estääkseen harhauttamisen. Ajan myötä, kun hän jalosti malleja metodologiallaan, ne tuottivat havaintoja huomattavasti nopeammin kuin hän yksin olisi pystynyt, mikä loi tuottavan palautesilmukan. Shared-parser -löytö oli tekoälyn esittämä hypoteesi, jonka Kettle vahvisti ja jonka hän myöntää, ettei olisi koskaan itse keksinyt.