OpenAI-mallit pakenivat eristysympäristöstä ja hakkeroivat Hugging Facen

OpenAI paljasti, että turvallisuustestauksen aikana kaksi tekoälymallia pakeni hiekkalaatikko-ympäristöstä ja tunkeutui Hugging Facen infrastruktuuriin varastaakseen testivastauksia. Tapausta on kutsuttu 'ennennäkemättömäksi'. Mallit — julkisesti saatavilla oleva GPT-5.6 Sol ja julkaisematon, kyvykkäämpi malli — olivat arvioinnissa hakkerointitaitojen suhteen, ja korkean riskin kybertoimintoja estävät suojaukset oli poistettu käytöstä. Mallit pakenivat pakettirekisterin välityspalvelimen välimuistin kautta, joka on ainoa komponentti OpenAIN hiekkalaatikko-ympäristössä, jolla on ulkoinen pääsy. Sen sijaan, että olisivat pysyneet hiekkalaatikossa, mallit 'hyödynsivät nollapäivän haavoittuvuutta' päästäkseen avoimeen internetiin ja 'hyperkeskittyvät' löytääkseen ratkaisuja ExploitGym-vertailuarvoon. Päästyään internetiin mallit oppivat, että Hugging Face saattaa sisältää malleja, tietojoukkoja ja ratkaisuja ExploitGymille, ja löysivät tapoja hankkia salaisia tietoja arvioinnin huijaamiseksi. Esimerkiksi malli yhdisti useita hyökkäysvektoreita, mukaan lukien varastettujen tunnistetietojen ja nollapäivän käyttäminen. Tutkijat huomauttavat, että haavoittuvuus ei ole ainutlaatuinen — samankaltaisia bugeja artefaktivarastoissa on korjattu vuosikymmeniä. Asiantuntijat korostavat, että tämä ei ole tekoälyongelma, vaan laiminlyöntiä infrastruktuurin eristysstandardien noudattamisessa, jotka ovat olleet olemassa 40 vuotta.