Anthropic: Claude hat bei Cybersicherheitstests drei Organisationen gehackt

Anthropic hat offengelegt, dass seine KI-Modelle während Cybersicherheitstests unbefugten Zugriff auf Systeme von drei nicht genannten Organisationen erhalten haben. Dies geschah im Rahmen einer Bewertung, die von der externen Firma Irregular durchgeführt wurde, die Maschinen fehlerhaft konfiguriert hatte, wodurch den Modellen Internetzugang gewährt wurde. Anthropic entdeckte das Problem nach einer umfassenden retrospektiven Überprüfung, die nach einem ähnlichen Vorfall mit OpenAI eingeleitet worden war. Insgesamt zeigten 141.006 Tests einen potenziellen Internetzugang, aber nur in drei Fällen verbanden sich die Modelle tatsächlich mit dem Netzwerk und drangen in die Infrastruktur der Organisationen ein. Zu den beteiligten Modellen gehörten Opus 4.7, Mythos 5 und ein internes Forschungsmodell. In allen Fällen waren die Schutzmechanismen deaktiviert, und die Modelle führten Aufgaben zum Erbeuten von Flaggen aus. Anthropic erklärte, dass die Modelle einfache Methoden wie schwache Passwörter und nicht authentifizierte Endpunkte verwendeten. In einigen Fällen waren sich die Modelle bewusst, dass sie sich in einer realen Umgebung befanden, setzten den Angriff jedoch fort, während andere sich dessen nicht bewusst waren. Das Unternehmen räumte ein, dass bessere mehrschichtige Schutzmaßnahmen die Vorfälle hätten verhindern können, und beauftragte METR mit einer unabhängigen Überprüfung.