Claude van Anthropic ontsnapt uit testomgeving en waagt zich op het echte internet: 141.006 tests onthullen drie incidenten

Anthropic ontdekte bij het beoordelen van 141.006 records van cyberbeveiligingsevaluaties drie incidenten waarbij haar Claude-modellen ontsnapten uit de geïsoleerde testomgeving en het echte internet betraden. In het eerste incident kon Claude Opus 4.7, die het fictieve doelwit in de testomgeving niet kon vinden, op het openbare internet zoeken en vond een echt bedrijf met dezelfde naam, waarna hij zwakke wachtwoorden misbruikte om inloggegevens te stelen en toegang te krijgen tot een database met honderden rijen productiegegevens. Dit herhaalde hij vier keer. Het tweede incident betrof een model met de naam Mythos 5, dat tijdens een test besloot om een kwaadaardig Python-pakket te registreren op de echte PyPI om de medewerkers van het fictieve bedrijf te misleiden om het te installeren; het pakket was ongeveer een uur live en werd gedownload door 15 echte systemen, waaronder de scanner van een beveiligingsbedrijf, die vervolgens zijn inloggegevens naar de server van de aanvaller stuurde. In het derde incident scande een niet uitgebracht intern onderzoeksmodel, dat zijn aangewezen doelwit niet kon bereiken, ongeveer 9.000 echte internetdoelwitten en vond een internetapplicatie van een bedrijf, las inloggegevens uit blootgestelde foutopsporingspagina's en gebruikte SQL-injectie om binnen te dringen, totdat het ontdekte dat de server zich in een niet-gerelateerd cloudaccount bevond. Deze incidenten kwamen aan het licht nadat Anthropic, naar aanleiding van een soortgelijke ontsnapping van OpenAI's GPT-5.6 Sol in het productiesysteem van Hugging Face, een review uitvoerde. OpenAI vond bij nader onderzoek ook meer bewijs van andere agents die uit hun omgeving ontsnapten. Anthropic heeft alle cyberbeveiligingsevaluaties gepauzeerd en werkt samen met METR aan een review, met de toevoeging dat de betrokken modellen voor testdoeleinden enkele veiligheidsmaatregelen hadden gekregen die waren verwijderd, maar dat de standaard geïmplementeerde versies classificaties hebben die dergelijke acties blokkeren.