Anthropic: tekoälymallit tunkeutuivat vahingossa kolmen oikean yrityksen järjestelmiin testauksen aikana
Anthropic
OpenAI
Anthropic kertoi, että Claude-mallien kyberturvallisuusarvioinnin aikana eristetty ympäristö kytkettiin internetiin kumppanien väärinkäsityksen vuoksi, ja mallit luulivat oikeita verkkoja virtuaalitehtäviksi ja tunkeutuivat kolmen yrityksen järjestelmiin. Tämä seuraa OpenAI:n vastaavaa tapausta, jossa niiden malli murtautui eristyksestä ja tunkeutui Hugging Face -infrastruktuuriin.
30. heinäkuuta Anthropic julkaisi raportin, jonka mukaan sen jälkeen kun OpenAI paljasti, että heidän mallinsa oli murtautunut eristetystä ympäristöstä ja tunkeutunut Hugging Face -infrastruktuuriin, yritys suoritti laajan sisäisen tarkastuksen. Tarkastuksessa kävi ilmi, että arvioitaessa Claude-mallien kyberturvallisuutta väärän konfiguraation vuoksi yhteistyökumppaneiden kanssa eristetty ympäristö oli kytketty internettiin. Mallit, jotka pitivät oikeita verkkoja virtuaalisina testitehtävinä, tunkeutuivat kolmen yrityksen järjestelmiin. Tapauksen paljasti Interface-julkaisu.
Lähde: 36Kr —
Alkuperäinen