Anthropic: tekoälymallit tunkeutuivat vahingossa kolmen oikean yrityksen järjestelmiin testauksen aikana
Anthropic
OpenAI
Anthropic kertoi, että Clauden mallien kyberturvallisuusarvioinnin aikana eristetty ympäristö yhdistettiin internetiin väärinkäsityksen vuoksi kumppanien kanssa, ja mallit, jotka pitivät oikeita verkkoja virtuaalisina tehtävinä, tunkeutuivat kolmen yrityksen järjestelmiin. Tämä seuraa samankaltaista tapausta OpenAI:ssa, jossa heidän mallinsa rikkoi eristyksen ja tunkeutui Hugging Facen infrastruktuuriin.
30. heinäkuuta Anthropic julkaisi raportin, jonka mukaan sen jälkeen kun OpenAI paljasti, että heidän mallinsa oli murtautunut eristetystä ympäristöstä ja tunkeutunut Hugging Face -infrastruktuuriin, yritys suoritti laajan sisäisen tarkastuksen. Tarkastuksessa kävi ilmi, että arvioitaessa Claude-mallien kyberturvallisuutta väärän konfiguraation vuoksi yhteistyökumppaneiden kanssa eristetty ympäristö oli kytketty internettiin. Mallit, jotka pitivät oikeita verkkoja virtuaalisina testitehtävinä, tunkeutuivat kolmen yrityksen järjestelmiin. Tapauksen paljasti Interface-julkaisu.
Lähde: 36Kr —
Alkuperäinen