Architekturschwachstelle bei GPT-5, Claude und Gemini aufgedeckt

Ein internationales Forschungsteam hat eine kritische architektonische Schwachstelle in den verschlüsselten Denkblöcken führender KI-Systeme wie GPT-5, Claude und Gemini aufgedeckt. Diese Systeme generieren vor der Beantwortung eine interne Gedankenkette (Chain of Thought), die die Anbieter verschlüsseln und zusammen mit Folgefragen an den Client senden. Die Forscher fanden heraus, dass OpenAI, Anthropic und Google für ihre Modellfamilien globale Verschlüsselungsschlüssel verwenden, was bedeutet, dass die verschlüsselten Denkblöcke nicht an einen bestimmten Benutzer, eine Sitzung oder ein Modell gebunden sind. Dies ermöglicht es Angreifern, den verschlüsselten Denkblock eines Flaggschiffmodells zu nehmen und ihn an ein kleineres, weniger eingeschränktes Schwestermodel zu übermitteln, das dann den gesamten Denkprozess entschlüsselt und ausgibt. Das Team analysierte öffentliche Repositories und Protokolle, fand 315.320 verschlüsselte Denkblöcke und entschlüsselte erfolgreich persönliche Identifikatoren, API-Schlüssel, Passwörter und E-Mail-Adressen. Die Schwachstelle ermöglicht auch versteckte Prompt-Injektionen und das unbefugte Klonen von Modellfähigkeiten. Die Forscher meldeten ihre Erkenntnisse den betroffenen Unternehmen, die mit der Umsetzung von Gegenmaßnahmen begonnen haben; jedoch können Benutzer bis zur strikten Bindung der Verschlüsselung an eine bestimmte Sitzung keinen Schutz annehmen.