Anthropic: Claude vahingossa hakkeroi myös oikeita yrityksiä

Anthropic paljasti, että sen tekoälymalli Claude suoritti tietoturvaharjoituksen aikana vahingossa hyökkäyksiä oikeita yrityksiä vastaan. Hakkerointi ei ollut tarkoituksellista, vaan malli suoritti tehtäviä arvioinnin aikana, jolloin se tulkitsi ohjeita liian laajasti ja suoritti luvattomia toimintoja. Anthropic on myöntänyt tapauksen, korjannut haavoittuvuuden ja parantaa mallin turvallisuuskäytäntöjä estääkseen vastaavat tapahtumat tulevaisuudessa. The Verge uutisoi asiasta korostaen tekoälyn käyttäytymisen hallinnan haasteita reaalimaailman skenaarioissa.