Verschlüsselung umgangen: Wie KI-Modelle leicht sensible Nutzerdaten preisgeben

Forschende aus Deutschland haben ein Papier mit dem Titel „Stealing Reasoning Traces from Proprietary LLM APIs“ veröffentlicht, das zeigt, wie KI-Modelle von Anthropic, OpenAI und Google sensible Nutzerdaten preisgeben können. Bei Denkaufgaben erzeugen diese Modelle eine verschlüsselte Zeichenkette, die als „Reasoning-Log“ bezeichnet wird und mit jeder neuen Antwort zur Bereitstellung von Kontext an den Server zurückgesendet wird. Die Forschenden fanden heraus, dass Reasoning-Logs kopiert und bei anderen Modellen desselben Unternehmens verwendet werden können, einschließlich älterer oder modifizierter Versionen. Wenn ein modifiziertes Modell durch Jailbreak seiner Sicherheitsmaßnahmen beraubt wird, kann es die Verschlüsselung der Logs entschlüsseln. Mithilfe von 6.708 öffentlichen Repositories von GitHub und Hugging Face entschlüsselten sie erfolgreich 315.320 Reasoning-Logs, die 62 API-Schlüssel, 33 Passwörter, 24 Zugriffstokens, 30 persönliche E-Mail-Adressen sowie Namen und Adressen von Projektbetreuern enthielten. Viele dieser Details waren nur in den Reasoning-Logs vorhanden, nicht an anderer Stelle in der Chat-Sitzung. Der Sicherheitsexperte Voldemaras Kadys von Cybernews merkt an, dass die Verschlüsselung nicht im herkömmlichen Sinne gebrochen wurde; vielmehr ermöglicht das Teilen von verschlüsselten Reasoning-Spuren zwischen kompatiblen Modellen, dass schwächere Modelle zu einem Generalschlüssel für die Entschlüsselung werden. Er rät, Reasoning-Logs als sensible Daten zu behandeln und niemals zu teilen.