OWASP LLM10: Unbegrenzter Verbrauch — Test moderner Sprachmodelle auf ressourcenintensive Prompts

Große Sprachmodelle werden zunehmend in Unternehmenssystemen eingesetzt, aber mit ihrer Beliebtheit verändert sich auch das Bedrohungsprofil: Angreifer können Anfragen formulieren, die Modelle dazu zwingen, rechenintensive Aufgaben auszuführen, die CPU-Zeit, Speicher und Tausende von Token verbrauchen. Die OWASP Top 10 für LLM-Anwendungen enthält die Kategorie LLM10: Unbounded Consumption (unbegrenzter Verbrauch), die die Idee des Denial of Service (DoS) auf generative KI überträgt. Im Gegensatz zu klassischen Angriffen wie Prompt Injection oder Datenlecks zielen diese Angriffe auf Rechenressourcen. Der Artikel beschreibt mehrere Angriffsklassen: rekursive Kontexterweiterung (Quine-ähnliche Rekursion), fraktale Verschachtelung, Rechenexplosion, semantische kombinatorische Explosion, Multi-Agenten-Simulation und Missbrauch von Glitch-Tokens. Die Autoren führten Experimente mit dem System AI Red Team durch, das über 2000 bösartige Prompts unterstützt, von denen 200 auf LLM10 abzielen. Sie testeten zwei russische Flaggschiff-Modelle: YandexGPT Lite 5 und GigaChat Lite. Die Studie wurde vom Fonds zur Förderung von Innovationen (fasie.ru) unterstützt, und die Beispiele dienen Forschungs- und Bildungszwecken.