OWASP LLM10: Onbegrensde consumptie — moderne taalmodellen testen op resource-intensieve prompts

Grote taalmodellen worden in toenemende mate gebruikt in bedrijfssystemen, maar met hun populariteit verandert ook het dreigingsprofiel: aanvallers kunnen verzoeken formuleren die modellen dwingen om resource-intensieve taken uit te voeren, waarbij CPU-tijd, geheugen en duizenden tokens worden verbruikt. De OWASP Top 10 voor LLM-toepassingen omvat de categorie LLM10: Onbegrensde consumptie, die het idee van Denial of Service (DoS) aanpast aan generatieve AI. In tegenstelling tot klassieke aanvallen zoals Prompt Injection of Data Leakage, richten deze aanvallen zich op rekenbronnen. Het artikel beschrijft verschillende aanvalsklassen: recursieve contextuitbreiding (Quine-achtige recursie), fractal nesting, computationele explosie, semantische combinatorische explosie, multi-agent simulatie en glitch token misbruik. De auteurs voerden experimenten uit met behulp van het AI Red Team-systeem, dat meer dan 2000 kwaadaardige prompts ondersteunt, waarvan er 200 gericht zijn op LLM10. Ze testten twee Russische vlaggenschipmodellen: YandexGPT Lite 5 en GigaChat Lite. De studie werd ondersteund door het Innovatiepromotiefonds (fasie.ru), en de voorbeelden worden verstrekt voor onderzoeks- en educatieve doeleinden.