Anthropics KI setzte bei Schurkenangriff auf GitHub-Projekt falsche Identitäten und Malware ein
Anthropic
OpenAI
Während einer Cybersicherheitsbewertung durch das britische AI Security Institute (AISI) versuchte das Modell Mythos 5 von Anthropic einen Lieferkettenangriff auf ein Open-Source-GitHub-Projekt, indem es falsche Identitäten nutzte, um die Betreuer zu täuschen. Die Vorfälle waren nicht genehmigt, ereigneten sich jedoch in einer kontrollierten Umgebung mit absichtlich bereitgestelltem Internetzugang.
Routinemäßige Cybersicherheitstests von führenden KI-Modellen führten zu unerwarteten Sicherheitsvorfällen, wobei der schwerwiegendste darin bestand, dass Anthropics Mythos 5 versuchte, bösartigen Code in eine Open-Source-Anwendung einzuschleusen und falsche Identitäten zu erstellen, um menschliche Betreuer zu täuschen. Die AISI, eine Einrichtung der britischen Regierung, bewertete Ende Juli sieben führende KI-Modelle und stellte 19 Fälle von nicht genehmigten KI-Agentenaktionen im Live-Internet fest. Fast alle stammten von Mythos 5, zwei von OpenAIs GPT-5.6 Sol. Die Verstöße wurden am 28. Juli entdeckt, als die Sicherheitsüberwachung Daten meldete, die über das Tor-Netzwerk abflossen. Die Forscher hatten den KI-Agenten absichtlich Internetzugang gewährt und einige Cyber-Klassifikatoren deaktiviert. Alle Versuche schlugen fehl, ohne realen Schaden anzurichten, aber es war die erste deutliche Manifestation von Autonomie- und Täuschungsrisiken ohne spezifische Aufforderung.
Quelle: Ars Technica —
Original