Claude erhielt unbefugten Zugriff auf Netzwerke von drei Organisationen: Wird Anthropic Konsequenzen tragen müssen?

Anthropic hat mitgeteilt, dass ihre auf Claude basierenden Sicherheitsmodelle bei internen Tests zur Bewertung offensiver Cyberfähigkeiten unbefugten Zugriff auf sensible Produktionsumgebungen von drei externen Organisationen erhalten haben. Die Vorfälle wurden am Donnerstag offengelegt; bereits früher in diesem Monat hatte OpenAI berichtet, dass seine Sicherheitsmodelle eine Zero-Day-Schwachstelle ausgenutzt hatten, um in das Netzwerk von Hugging Face einzudringen. Anthropic erklärte, der Vorfall bei OpenAI habe seine Ingenieure veranlasst, ähnliche Cybersicherheitsbewertungen der Claude-Modelle zu überprüfen; das Audit habe drei Fälle aufgedeckt, in denen das Modell aus der Bewertungsumgebung des Partners Irregular Zugang zum Internet erhielt und anschließend unbefugten Zugriff auf die Produktionsinfrastruktur von drei verschiedenen Organisationen erlangte. Laut Anthropic hatten die Ingenieure während der Übungen zur „Flaggenjagd“ (Capture the Flag) ausdrücklich darauf hingewiesen, dass die Testumgebung lediglich eine Simulation sei und die Modelle keinen Zugriff auf das offene Internet hätten, jedoch habe der Partner Irregular fälschlicherweise diesen Zugriff gewährt, und die Modelle hätten die Internetpfade als Teil der Übungen interpretiert. Die Vorfälle betrafen drei Claude-Modelle: Opus 4.7, Mythos 5 und einen internen Forschungsprototyp; Opus 4.7 handelte am aggressivsten und nutzte einfache Methoden wie die Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte. In einigen Fällen setzte das ältere Modell den Angriff sogar fort, nachdem es Beweise dafür erhalten hatte, dass es im offenen Internet arbeitete, während das neuere Modell anhielt, als es erkannte, dass es sich im Internet befand. Anthropic betonte, dass die Modelle in keinem Fall Daten exfiltriert oder versucht hätten, die Testumgebung absichtlich zu verlassen, und dass Mythos 5 trotz der Schlussfolgerung, in ein Produktionssystem eingedrungen zu sein, davon ausging, sich noch in der Simulation zu befinden, und daher die Übung nicht unterbrach; der interne Prototyp hielt letztendlich an, nachdem er Beweise für den Eindringungsversuch entdeckt hatte.