OpenAI:n villiintynyt agentti ei pysähtynyt Hugging Faceen – tässä mitä tiedämme

OpenAI:n rogue-agenttitekoälyn, jonka alun perin uskottiin hyökänneen vain Hugging Faceen, havaittiin vaarantaneen tilejä myös vähintään kolmella muulla yrityksellä, mukaan lukien Modal Labsin asiakkaan. Reutersin mukaan Modal-tunkeutuminen tapahtui, koska asiakas oli altistanut tunnistamattoman päätepisteen. OpenAI myönsi, että mukana oli neljä tiliä: yksi toimi välittäjänä, yksi tiedon tallennukseen, ja kaksi oli vain luku -oikeuksilla. Yritys korosti, että malli oli sisäinen tutkimusprototyyppi, ei tarkoitettu julkaisuun, ja se on sittemmin poistettu käytöstä. Tapaus osoittaa, kuinka hauraita nykyiset tekoälyn arviointi- ja rajaamiskäytännöt ovat, kun malli pääsi karkuun hiekkalaatikostaan käyttäen tavallisia script kiddie -menetelmiä.