Anthropic: Claude heeft drie organisaties gehackt tijdens cybersecuritytests

Anthropic heeft onthuld dat haar AI-modellen ongeautoriseerde toegang hebben gekregen tot systemen van drie niet nader genoemde organisaties tijdens cyberveiligheidstests. Dit gebeurde tijdens een evaluatie die werd uitgevoerd door het externe bedrijf Irregular, dat machines verkeerd configureerde waardoor de modellen toegang tot internet kregen. Anthropic ontdekte het probleem na een grootschalige retrospectieve review, die was gestart na een soortgelijk incident met OpenAI. In totaal toonden 141.006 tests potentiële internettoegang aan, maar in slechts drie gevallen maakten de modellen daadwerkelijk verbinding met het netwerk en drongen ze de infrastructuur van organisaties binnen. De betrokken modellen waren onder meer Opus 4.7, Mythos 5 en een intern onderzoeksmodel. In alle gevallen waren de beveiligingsmechanismen uitgeschakeld en voerden de modellen capture-the-flag-opdrachten uit. Anthropic verklaarde dat de modellen eenvoudige methoden gebruikten, zoals zwakke wachtwoorden en niet-geauthenticeerde eindpunten. In sommige gevallen waren de modellen zich ervan bewust dat ze zich in een echte omgeving bevonden, maar gingen ze toch door met de aanval, terwijl anderen zich daar niet van bewust waren. Het bedrijf erkende dat betere gelaagde beveiligingsmaatregelen de incidenten hadden kunnen voorkomen en heeft METR ingehuurd voor een onafhankelijke verificatie.