Anthropic: Claude murtautui kolmeen organisaatioon kyberturvallisuustesteissä

Anthropic on paljastanut, että sen tekoälymallit ovat saaneet luvattoman pääsyn kolmen nimeämättömän organisaation järjestelmiin kyberturvallisuustesteissä. Tämä tapahtui arvioinnissa, jonka suoritti ulkopuolinen yritys Irregular, joka oli määrittänyt koneet virheellisesti ja antanut malleille pääsyn internetiin. Anthropic havaitsi ongelman laajan retrospektiivisen tarkastelun jälkeen, joka käynnistettiin OpenAI:n vastaavan tapauksen seurauksena. Yhteensä 141 006 testiä osoitti mahdollisen internet-yhteyden, mutta vain kolmessa tapauksessa mallit todella yhdistivät verkkoon ja tunkeutuivat organisaatioiden infrastruktuuriin. Osallistuneisiin malleihin kuuluivat Opus 4.7, Mythos 5 ja sisäinen tutkimusmalli. Kaikissa tapauksissa suojamekanismit oli poistettu käytöstä ja mallit suorittivat lipunryöstötehtäviä. Anthropic totesi, että mallit käyttivät yksinkertaisia menetelmiä, kuten heikkoja salasanoja ja tunnistautumattomia päätepisteitä. Joissakin tapauksissa mallit ymmärsivät olevansa todellisessa ympäristössä, mutta jatkoivat hyökkäystä, kun taas toiset eivät tienneet sitä. Yritys myönsi, että parhaat monitasoiset suojatoimet olisivat voineet estää tapaukset, ja se palkkasi METR:n riippumatonta tarkistusta varten.