OWASP LLM10 : Consommation illimitée — Tester les modèles de langage modernes sur des prompts gourmands en ressources

Les grands modèles de langage sont de plus en plus utilisés dans les systèmes d'entreprise, mais avec leur popularité, le profil de menace change : les attaquants peuvent formuler des requêtes qui forcent les modèles à effectuer des tâches gourmandes en ressources, consommant du temps CPU, de la mémoire et des milliers de jetons. Le Top 10 OWASP pour les applications LLM inclut la catégorie LLM10 : Consommation illimitée, qui adapte l'idée de déni de service (DoS) à l'IA générative. Contrairement aux attaques classiques comme l'injection de prompt ou la fuite de données, ces attaques ciblent les ressources de calcul. L'article décrit plusieurs classes d'attaques : expansion récursive de contexte (récursion de type Quine), imbrication fractale, explosion computationnelle, explosion combinatoire sémantique, simulation multi-agents et abus de jetons glitch. Les auteurs ont mené des expériences en utilisant le système AI Red Team, qui prend en charge plus de 2000 prompts malveillants, dont 200 ciblent LLM10. Ils ont testé deux modèles phares russes : YandexGPT Lite 5 et GigaChat Lite. L'étude a été soutenue par la Fondation pour la promotion de l'innovation (fasie.ru), et les exemples sont fournis à des fins de recherche et d'éducation.