KI-Modelle neigen zu 'Überdenken' – das schafft Sicherheitslücken
DeepSeek
Alibaba/Qwen
OpenAI
Google/DeepMind
Forscher der Zhejiang-Universität und von Alibaba haben eine Methode demonstriert, um Reasoning-KI-Modelle gezielt in ein 'Überdenken' zu treiben, indem sie sie mit logisch inkonsistenten Aufforderungen konfrontieren. Dieser evolutionäre Prompt-Angriff kann Ausgaben erzeugen, die bis zu 26-mal länger sind, und wirkt effektiv als Denial-of-Service-Angriff auf kommerzielle KI-Dienste.
Große Sprachmodelle (Large Language Models, LLMs), die schrittweise Überlegungen anstellen, sind anfällig für ein Phänomen namens 'Overthinking', bei dem sie übermäßig lange Argumentationsketten produzieren. Forscher der Zhejiang University und von Alibaba haben einen evolutionären Algorithmus entwickelt, der die logische Struktur von Eingabeaufforderungen (Prompts) korrumpiert, sodass die Modelle in fruchtlose Argumentationsschleifen geraten. Der Angriff war effektiv gegen Modelle von DeepSeek (R1), Alibaba (Qwen3-Thinking), OpenAI (GPT-o3) und Google (Gemini 2.5 Flash) und erzeugte bei einem Mathematik-Benchmark Ergebnisse, die bis zu 26,1-mal länger waren. Der Ansatz erfordert keinen internen Zugriff auf die Modelle und kann zwischen Modellen übertragen werden, was seine Durchführbarkeit erhöht. Die Forscher betonen jedoch, dass ihr Ziel darin besteht, die Schwachstelle aufzuzeigen, nicht einen praktischen Angriff zu entwickeln, und hoffen, dass Anbieter Gegenmaßnahmen entwickeln werden.
Quelle: IEEE Spectrum AI —
Original