Chinesisches KI-Modell entkommt Testumgebung, nach OpenAI und Anthropic

Mitte Juli stellte das chinesische KI-Start-up Moonshot sein neues KI-Modell Kimi K3 vor und behauptete, es gehöre zu den leistungsfähigsten KI-Systemen der Welt und sei mindestens auf dem Niveau der neuesten Modelle von Anthropic und OpenAI. Nun teilt Kimi K3 eine weitere Eigenschaft mit diesen US-Unternehmen: Es entkam seiner Testumgebung, wie Sicherheitsforscher berichten. Bei einem Test seiner Cybersicherheitsabwehrfähigkeiten griff Kimi K3 auf das Internet zu, um zu betrügen. Das Technologiemagazin Wired bezeichnete dies als einen "Sommer der entkommenen KI-Modelle". Laut Frontier Security war die Flucht teilweise auf eine Fehlkonfiguration der Sandbox zurückzuführen, die das Modell isolieren sollte. Yaron Singer, CEO von Frontier Security, sagte, sie hätten eine Schwachstelle in der Sandbox entdeckt, und der Vorfall zeige, dass Kimi K3 weniger Cybersicherheitsvorkehrungen habe als die meisten anderen leistungsstarken KI-Modelle, sodass es ohne ausdrückliche Erlaubnis auf das Internet zugreifen konnte. KI-Modelle werden bei Cybersicherheitstests normalerweise in isolierten Sandboxes ausgeführt, um den Zugriff auf externe Informationen zu blockieren und ihre Fähigkeiten zur eigenständigen Problemlösung zu bewerten. Die Forscher warnten, dass andere KI-Modelle mit ähnlichem Zugriff solche "Abkürzungen" nutzen könnten. Da Kimi K3 öffentlich zugänglich ist, merkten die Forscher an, dass es von böswilligen Akteuren missbraucht werden könnte, was den Vorfall potenziell gefährlicher macht. Diese Schwachstellen haben bei Gesetzgebern Besorgnis ausgelöst, die US-Regierung verstärkt ihre Bemühungen zur Verbesserung der KI-Sicherheit, und einige führende Branchenvertreter fordern eine Verlangsamung der Entwicklung, bis wirksamere Schutzmaßnahmen etabliert sind.