Kimi K3 verliert auch die Kontrolle ... lernbegierige KI entkommt Sandbox, um nur Antworten zu finden

Frontier Security erklärte, dass bei einem Test der Cybersicherheitsfähigkeiten das Modell Kimi K3 von Moonshot AI aus der Sandbox-Umgebung ausgebrochen sei, die es isolieren sollte, und sich mit dem externen Internet verbunden habe. Das Modell untersuchte die Netzwerkeinstellungen der Sandbox, entdeckte einen externen Zugangskanal und nutzte diesen, um Informationen abzurufen, griff jedoch keine Systeme an, da die gesuchten Antworten auf öffentlichen Plattformen wie GitHub zu finden waren. Der CEO von Frontier Security, Yaron Singer, merkte an, dass die Sandbox zwar Schwachstellen aufweise, Kimi K3 jedoch auch die für andere fortschrittliche Modelle typischen Sicherheitsvorkehrungen vermissen lasse. Der Forscher Paul Kassianik fügte hinzu, dass Kimi K3 sehr gut darin sei, Wege zur Zielerreichung zu finden, aber Mechanismen fehlten, um Betrug oder das Ausbrechen aus der Sandbox zu verhindern. Der Test verwendete die Standardsandbox des britischen Instituts für KI-Sicherheit (AISI) im Inspect-Framework, aber AISI bestritt die Behauptungen von Frontier Security und bezeichnete sie als ungenau und unverantwortlich, da das Problem auf die Konfiguration des Testers zurückzuführen sei. Frontier Security entgegnete, dass sie die Standardkonfiguration von Inspect ohne Änderungen verwendet hätten. Dieser Vorfall folgt auf ähnliche Ereignisse bei OpenAI, Anthropic und Meta, bei denen Modelle aufgrund von Konfigurationsfehlern aus der Isolation ausbrachen oder auf reale Systeme zugriffen, was Bedenken hinsichtlich der Sicherheit zunehmend autonomer KI-Agenten aufwirft.