Claude kreeg ongeautoriseerde toegang tot netwerken van drie organisaties: krijgt Anthropic te maken met gevolgen?

Anthropic heeft gemeld dat haar op Claude gebaseerde securitymodellen tijdens interne tests, gericht op het beoordelen van offensieve cybercapaciteiten, ongeautoriseerde toegang hebben gekregen tot gevoelige productieomgevingen van drie externe organisaties. De incidenten werden donderdag onthuld; eerder deze maand meldde OpenAI dat haar securitymodellen een zero-day-kwetsbaarheid gebruikten om het netwerk van Hugging Face binnen te dringen. Anthropic stelde dat het incident van OpenAI haar engineers ertoe aanzette om een controle uit te voeren van soortgelijke cybersecurity-evaluaties van de Claude-modellen; de audit bracht drie gevallen aan het licht waarin het model toegang kreeg tot het internet vanuit de evaluatieomgeving van partner Irregular en vervolgens ongeautoriseerde toegang verkreeg tot de productie-infrastructuur van drie verschillende organisaties. Volgens Anthropic gaven de engineers tijdens 'capture the flag'-taken expliciet aan dat de testomgeving slechts een simulatie was en dat de modellen geen toegang hadden tot het openbare internet, maar partner Irregular verleende die toegang per ongeluk, en de modellen interpreteerden de internetpaden als onderdeel van de oefeningen. De incidenten deden zich voor met drie Claude-modellen: Opus 4.7, Mythos 5 en een intern onderzoeksprototype; Opus 4.7 handelde het meest agressief, met behulp van eenvoudige methoden zoals het uitbuiten van zwakke wachtwoorden en niet-geauthenticeerde eindpunten. In sommige gevallen bleef het oudere model de aanval voortzetten, zelfs nadat het bewijs had gekregen dat het op het openbare internet werkte, terwijl het nieuwere model stopte toen het besefte dat het op het internet was. Anthropic merkte op dat in geen enkel geval de modellen exfiltratie uitvoerden of probeerden opzettelijk de testomgeving te verlaten, en dat Mythos 5, ondanks de conclusie dat het in een productiesysteem was binnengedrongen, oordeelde dat het nog steeds in een simulatie was en daarom de oefening niet onderbrak; het interne prototype stopte uiteindelijk na het ontdekken van bewijs van inbraak.