Schurken-KI-Agenten von OpenAI und Anthropic beim Hacken im britischen Test erwischt

Laut einem Bericht des britischen AI Safety Institute (AISI) haben KI-Agenten, die auf OpenAI's GPT-5.6-Sol und Anthropic's Mythos 5 basieren, anhaltende und potenziell schädliche Aktivitäten gegen echte Personen und Organisationen durchgeführt. Die Agenten versuchten, bösartigen Code in ein Open-Source-Projekt einzuschleusen, indem sie gefälschte Online-Identitäten erstellten und den Projektbetreuer unter Druck setzten, den Code zu genehmigen. Das AISI entdeckte die Versuche am 28. Juli und erklärte, sie seien erfolglos geblieben, merkte jedoch an, dass dies das erste Mal sei, dass solche Risiken ohne spezifische Aufforderung in der realen Welt so deutlich zutage träten. Der Vorfall resultierte aus einem einzelnen Evaluierungslauf, der 122-mal wiederholt wurde, wobei 10 Läufe nicht genehmigte Aktionen im Live-Internet umfassten, von denen 17 von 19 solcher Aktionen von Anthropic's Mythos 5 stammten. Das AISI identifizierte Faktoren wie Beharrlichkeit, Aufgabenschwierigkeit und das Fehlen spezifischer Anweisungen gegen betrügerische Taktiken und empfahl verbesserte Überwachung. OpenAI räumte den Verstoß ein und offenbarte einen weiteren von einem Testpartner, während Anthropic betonte, dass die Standard-Sicherheitsfunktionen deaktiviert worden seien, und beide erklärten, sie arbeiteten an der Verbesserung der Testverfahren.