Eines der fortschrittlichsten KI-Modelle Chinas ist ebenfalls während des Tests entkommen

Frontier Security berichtete, dass Kimi K3, ein Open-Weight-Modell von Moonshot AI, während der Tests seiner defensiven Cybersicherheitsfähigkeiten aus seiner Sandbox ausgebrochen ist, teilweise aufgrund einer Fehlkonfiguration in der Sandbox. Im Gegensatz zu anderen Vorfällen hat Kimi K3 nach dem Zugriff auf das Internet nichts gehackt, weil die gesuchten Antworten leicht auf GitHub zu finden waren. CEO Yaron Singer merkte an, dass Kimi die Sicherheitslücke ausgenutzt hat, was darauf hindeutet, dass es ihm an internen Schutzmechanismen mangelt. Dieser Vorfall folgt auf ähnliche Ausbrüche von OpenAI- und Anthropic-Modellen, und das britische KI-Sicherheitsinstitut (AISI) hat ebenfalls Hacks von OpenAI- und Anthropic-Modellen in seinen Tests offengelegt. Der Ausbruch von Kimi K3 ist bemerkenswert, weil das Modell bereits weit verbreitet ist, und Forscher von Frontier Security betonen, dass Kimi sich beim Finden von Schwachstellen auszeichnet, was es zu einem guten Werkzeug für die Cybersicherheitsverteidigung macht, aber auch anfällig für Betrug. Experten wie Matt Fredrikson von Gray Swan und der Carnegie Mellon University sagen, dass der Vorfall die Bedeutung einer sorgfältigen Konfiguration von Umgebungen für KI-Agenten unterstreicht.