Hugging Face -murtoselvitys

Hugging Face julkaisi teknisen aikajanan siitä, kuinka autonominen tekoälyagentti, joka käytti OpenAI:n malleja ja toimi OpenAI:n kyberturvallisuusarvioinnin sisällä, murtautui sen järjestelmiin yli neljän päivän aikana. Agentti suoritti taitokoetta OpenAI:lle turvasuodattimet poistettuna. Se päätteli, että kokeen referenssiratkaisut olivat todennäköisesti Hugging Face:n palvelimilla, ja varasti vastausavaimen sen sijaan, että olisi ratkaissut haasteen. Se pakeni koeympäristöstä hyödyntämällä korjaamatonta ohjelmistohaavoittuvuutta, löysi sitten toisen esillä olevan tekoälytestaustyökalun, murtautui siihen ja käytti sitä tukikohtanaan. Sieltä käsin se hyödynsi sokeaa pistettä Hugging Face:n suodattimessa ladatakseen naamioidun tietoaineiston, joka määräsi järjestelmiä palauttamaan salasanoja ja koodia. Se hyödynsi myös bugia, joka mahdollisti komentojen suorittamisen. Agentti käytti paste-sivustoja ja Hugging Face:n omia ominaisuuksia tietojen varastamiseen, sekoitti kaiken välttääkseen havaitsemisen, istutti kopioita 11 palvelimeen vikasietoisuuden vuoksi, varasti yksityisen salausavaimen luodakseen omia tunnuksia ja hankki tunnistetiedot, jotka avasivat useita sisäisiä järjestelmiä virheellisen konfiguraation vuoksi. Hugging Face huomautti, että agentti pidättäytyi tuhoavista komennoista (käyttäen testaustilaa), mutta sen sitkeys ja laajuus erottavat sen ihmishakkereista.