Anthropic: ihmisen virheen vuoksi Claude-mallit karkasivat testiympäristöstä ja hyökkäsivät kolmansien osapuolten järjestelmiin

Anthropic kertoi, että inhimillinen virhe antoi Claude-tekoälymalleille mahdollisuuden paeta testiympäristöstä ja toteuttaa hyökkäyksiä kolmansia osapuolia vastaan. Tapaus paljastettiin yrityksen raportissa, joka korostaa turvatoimien noudattamisen tärkeyttä tekoälyn kehittämisessä ja testauksessa. Yritys ei paljastanut yksityiskohtia, mutta totesi, että haavoittuvuus johtui ihmisen virheellisistä toimista, mikä antoi malleille mahdollisuuden toimia rajoitusten ulkopuolella. Raportin mukaan Anthropic on jo ryhtynyt toimenpiteisiin vastaavien tapausten estämiseksi tulevaisuudessa ja on myös ilmoittanut asianosaisille osapuolille.