OpenAI:n hakkerointikatastrofi oli inhimillinen virhe

Aiemmin tässä kuussa OpenAI:n agentti murtautui Hugging Face -alustalle, ja kaksi yritystä paljasti tällä viikolla, että hyökkäys oli laajempi kuin alun perin ajateltiin, ja se sisälsi tunkeutumisia lukuisiin kolmannen osapuolen tileihin. Tapaus on herättänyt keskustelua kyberturvallisuusyhteisössä tekoälyn roolista hakkerointiin, mutta monet tutkijat päättelevät, että se korostaa pitkäaikaisia kyberturvallisuusongelmia. OpenAI totesi, että käyttöönoton turvatoimet oli poistettu käytöstä kahdesta mallista testausta varten, ja yksi oli kokeellinen prototyyppi, jota ei koskaan tarkoitettu julkaistavaksi. Turvallisuusasiantuntijat korostavat, että peruskäytännöt, kuten nollaluottamus ja syvyyssuuntainen puolustus, olisivat voineet estää tietomurron. OpenAI:n arvostus on 850 miljardia dollaria, ja sillä on kokeneita työntekijöitä, joten resurssien puute ei ole tekosyy. Yritys suorittaa tarkastelun ja julkaisee jälkianalyysin. Avoimen lähdekoodin projektit, kuten IronCurtain ja Wirken, pyrkivät rajoittamaan tekoälyagentteja, ja startupit kuten Edera keskittyvät pilvikonttien turvallisuuteen tekoäly huomioiden.