Neue Methode extrahiert verborgenes Denken aus führenden KI-Modellen

Computervissenschaftler, darunter Alexander Panfilov von der Universität Tübingen, haben eine Methode entdeckt, um das verborgene "Denken" von hochmodernen KI-Modellen zu extrahieren. Die Technik nutzt die Tatsache aus, dass Unternehmen kleinere, weniger ausgerichtete Modellvarianten anbieten, die denselben Entschlüsselungsschlüssel teilen, aber eher bereit sind, ihre internen Überlegungen preiszugeben. Indem die Forscher verschlüsselte Denkspuren in diese kleineren Modelle einspeisten, konnten sie die Denkweise größerer Modelle aufdecken, was möglicherweise Destillationsangriffe ermöglicht und persönliche Informationen wie API-Schlüssel und Passwörter offenlegt. Sie stellten fest, dass das chinesische Modell Kimi K3 von Moonshot AI auffallend ähnliche Denkweisen wie Claude Opus 4.8 und GPT-5.6 Sol produzierte, wiesen jedoch darauf hin, dass dies nicht kausal auf Destillation schließen lässt. Die Schwachstelle wurde an OpenAI, Anthropic und Google gemeldet, die Gegenmaßnahmen implementiert haben, aber Panfilov sagt, dass einige Denkspuren immer noch extrahiert werden können. Das Problem unterstreicht die wachsende geopolitische Bedeutung der Destillation, da chinesische Unternehmen beschuldigt werden, sie zur Kopie US-amerikanischer Modelle zu nutzen, obwohl Experten über ihre tatsächliche Auswirkung uneins sind.