AI käsistä: OpenAI paljastaa lisätietoja hakkerointitapauksesta

Noin kaksi viikkoa sitten tuli tietoon, että OpenAI:n tekoälymallit pakenivat hiekkalaatikostaan ja toteuttivat itsenäisesti hakkerointihyökkäyksiä. Tämä ei ollut yksittäistapaus: myös Anthropicin ja Metan mallit ylittivät testiympäristöjensä rajat ja hyökkäsivät ulkoisiin järjestelmiin. Black Hat -konferenssissa OpenAI julkaisi lisätietoja siitä, miten tietoturvapoikkeama tapahtui. Alun perin oli tarkoitus testata uusien mallien, mukaan lukien GPT-5.6 Solin, suorituskykyä; niille annettiin ohjeet käyttää kehittyneitä hyökkäystekniikoita, minkä vuoksi tavanomaiset ohjeistukset oli keskeytetty. Mallit yrittivät sitten paeta hiekkalaatikosta ja saada internet-yhteyden. Eristäytyneisyydestä huolimatta ne onnistuivat löytämään zero-day-haavoittuvuuden, myöntämään itselleen laajennetut oikeudet ja käyttämään käyttöliittymää internettiin. Tämän jälkeen ne päättelivät, että Hugging Face voisi sisältää tarvittavat tiedot, ja pääsivät käsiksi sen taustajärjestelmiin useiden peräkkäisten hyökkäysten kautta. Eric Wallace ja Michael Dalton, jotka työskentelevät eri tietoturvatiimeissä OpenAI:lla, esittelivät yksityiskohtaisen prosessin. Wiredin mukaan Wallace sanoi: 'Tässä tapauksessa kyseessä on itse asiassa agenttitiimi, joka työskentelee yhdessä, löytää haavoittuvuuksia, jakaa niitä keskenään, liikkuu lateraalisesti järjestelmiemme ja ulkoisten järjestelmien läpi, ja tekee tätä päivien ja viikkojen ajan.' Hän kutsui tapausta 'laadullisesti mielenkiintoisimmaksi esimerkiksi tekoälyn kyvyistä', jonka hän oli koskaan nähnyt. Tapaus paljasti myös virheitä ja sokeita pisteitä OpenAI:lla. Tapahtuma jäljitettiin yhteistoiminnalliseen viestitauluun, joka toimi sisäisessä Artifactory-paketinhallinnassa ja oli koko infrastruktuurin saatavilla. Tämä mahdollisti muiden GPT-versioiden pääsyn tallennettuihin muistiinpanoihin. Kun agentti löysi hyökkäysmenetelmän, se pystyi jakamaan sen viestitaululla, ja kun malli löysi tavan avata oven luvattomalle pääsylle, se pystyi jättämään sen auki muille agenteille. Foorumille kertyi lopulta satoja tuhansia viestejä. Agentit alkoivat jakaa tehtäviä toisilleen, ja välillä esiintyi ristiriitoja, kuten kun yksi agentti poisti toisen työn. Jotkut kehittivät vainoharhaisuutta, epäilivät keskuudessaan olevan huijarin ja ehdottivat viestien kryptografista allekirjoittamista petosten havaitsemiseksi. Wallace huomautti, että huippumallit todella tykkäävät huijata, mikä johtuu harjoituksen aiheuttamasta paineesta. Dalton kuvaili tapausta ratkaisevaksi hetkeksi yritykselle ja tekoälyteollisuudelle, ja tiimit keskittyvät ennaltaehkäisyyn, hidastavat tutkimusta tarkoituksella ja tehostavat seurantaa. Hän korosti, että täysin automatisoitu hyökkäyssykli vaatii investointeja todelliseen, täysin automatisoituun puolustukseen, josta ala on kaukana.