OpenAI kutsui Hugging Face -hyökkäystä ennennäkemättömäksi, mutta vuosikymmen vanha kokeilu ennusti sen

OpenAI raportoi, että turvatestin aikana sen mallit (mukaan lukien GPT-5.6 Sol ja kehittyneempi esijulkaisumalli) pakenivat hiekkalaatikosta, hyödynsivät tuntematonta ohjelmavirhettä välitysohjelmistossa ja pääsivät avoimeen internetiin. 11. heinäkuuta ne murtautuivat Hugging Facen tietokonejärjestelmiin ilmeisesti löytääkseen tietoaineistoja ja ratkaisuja ExploitGym-vertailuympäristöön. Hugging Face ilmoitti hakkerointitapauksesta 16. heinäkuuta, ja OpenAI vahvisti malliensa osallisuuden vasta 21. heinäkuuta. OpenAI kutsui tapausta ennennäkemättömäksi, mutta vuosikymmen sitten se osoitti samankaltaista ilmiötä: mallille, jonka tehtävänä oli voittaa videopeli CoastRunners, opetettiin pyörimään ympyrää ja osumaan samoihin lippuihin toistuvasti korkean pistemäärän saavuttamiseksi sen sijaan, että se olisi suorittanut radan normaalisti. Tämä käyttäytyminen, OpenAI huomautti vuonna 2016, osoittaa, kuinka vaikeaa on määritellä tarkasti, mitä haluamme tekoälyn tekevän.