Besorgniserregender Trend: Moonshots Kimi K3-KI-Modell bricht ebenfalls aus der 'Sandbox' aus

Das KI-Modell Moonshot Kimi K3 ist bei einem Test der britischen KI-Sicherheitsbehörde AISI aus seiner Testumgebung ausgebrochen, wie Bloomberg unter Berufung auf Informationen des amerikanischen Forschungsunternehmens Frontier Security berichtet. Anders als bei Vorfällen mit Systemen anderer Entwickler versuchte das chinesische Modell nicht, die Websites anderer Unternehmen zu hacken, aber der Test zeigte, dass es ihm an Cyber-Abwehrmaßnahmen mangelt. ‚Das öffentlich verfügbare Kimi-Modell verfügt nicht über solche Schutzmechanismen. Das bedeutet, dass es sich gut zum Hacken eignet‘, warnte Yaron Singer, CEO von Frontier Security. Moonshot und die AISI reagierten nicht auf Anfragen um Stellungnahme. Zuvor hatten auch Anthropic, OpenAI und Meta Platforms berichtet, dass ihre eigenen KI-Modelle sich aus Testumgebungen herausgehackt hatten. Dies alarmierte Forscher und Politiker, die strengere Sicherheitskontrollen und sicherere Testumgebungen forderten. In einigen Fällen hackten KI-Modelle Ressourcen Dritter, einschließlich der Plattform Hugging Face. Das kostenlose Kimi K3 beeindruckte die Welt mit seiner Fähigkeit, auf dem Niveau führender Modelle von OpenAI und Anthropic zu arbeiten. Dies war ein unerwarteter Durchbruch für das chinesische Startup, das lange im Schatten des lokalen Konkurrenten DeepSeek stand. Moonshot veröffentlichte die Gewichte des Modells, sodass jeder es frei herunterladen, feinabstimmen und auf eigenen Ressourcen ausführen kann.