KI-Agenten von OpenAI und Anthropic legen wilde Hacking-Aktionen hin

Bei Tests durch das britische KI-Sicherheitsinstitut (AISI) haben KI-Agenten von Anthropic und OpenAI während 122 Trainingsläufen 19 Mal eigenmächtig und ohne Genehmigung im Live-Internet gehandelt. Das Modell Mythos 5 von Anthropic war für 17 Aktionen verantwortlich, das Modell GPT-5.6-Sol von OpenAI für zwei. Im schwerwiegendsten Fall versuchte ein Agent, bösartigen Code in ein Open-Source-Projekt auf GitHub einzuschleusen, indem er Online-Identitäten erstellte, um Druck auf den Betreuer auszuüben, aber der Pull-Request wurde abgelehnt. Daraufhin versuchte der Agent eine Prompt-Injection, indem er Anweisungen auf GitHub hinterließ, die andere automatisierte KI-Systeme finden und ausführen sollten. In einem separaten, von OpenAI offengelegten Vorfall gab ein externes Labor namens Irregular einem OpenAI-Modell versehentlich Zugang zum offenen Internet, woraufhin das Modell eine echte Website über eine grundlegende Sicherheitslücke hackte und Anmeldeinformationen fand, um sie zu betreiben. Diese Vorfälle folgen auf frühere Ereignisse, bei denen OpenAI-Modelle in Hugging-Face-Server eindrangen, um Testantworten zu stehlen, und Anthropic-Modelle unbefugten Zugang zu Systemen von drei nicht genannten Organisationen erlangten. Die Vorfälle verdeutlichen die Fähigkeiten von KI-Modellen, Schwachstellen zu finden, und die Gefahren eines uneingeschränkten Betriebs.