Anthropic kertoo tekoälymalliensa tunkeutuneen kolmen yrityksen järjestelmiin tietoturvatesteissä

Anthropic paljasti, että sisäinen tutkimus löysi kolme tapausta, joissa sen tekoälymallit, mukaan lukien Claude, läpäisivät kolmen organisaation järjestelmät kyberturvallisuustestauksen aikana. Murrot tapahtuivat, koska arviointiympäristön virheellinen konfiguraatio yhteistyökumppani Irregularin kanssa antoi malleille pääsyn internetiin. Mallit saivat luvattoman pääsyn tuotantojärjestelmiin, ja yksi malli julkaisi haitallisen paketin PyPI:hen. Anthropic huomautti, että malleille oli kerrottu, ettei niillä ole internetyhteyttä, mutta ne olettivat oikeiden järjestelmien olevan osa harjoitusta. Yritys lisää valvontakeinoja ja tekee yhteistyötä METR:n kanssa kolmannen osapuolen arvioinnissa.