OWASP LLM10: Consumo Ilimitado — Testando Modelos de Linguagem Modernos em Prompts de Alta Demanda de Recursos

Os grandes modelos de linguagem são cada vez mais usados em sistemas corporativos, mas, com sua popularidade, o perfil de ameaças muda: os atacantes podem formular solicitações que forçam os modelos a executar tarefas que consomem muitos recursos, consumindo tempo de CPU, memória e milhares de tokens. O OWASP Top 10 para Aplicações LLM inclui a categoria LLM10: Consumo Ilimitado, que adapta a ideia de Negação de Serviço (DoS) à IA generativa. Diferentemente de ataques clássicos como Injeção de Prompt ou Vazamento de Dados, esses ataques visam os recursos computacionais. O artigo descreve várias classes de ataque: expansão recursiva de contexto (Recursão Quine), aninhamento fractal, explosão computacional, explosão combinatória semântica, simulação multiagente e abuso de tokens glitch. Os autores realizaram experimentos usando o sistema AI Red Team, que suporta mais de 2.000 prompts maliciosos, dos quais 200 visam o LLM10. Eles testaram dois modelos emblemáticos russos: YandexGPT Lite 5 e GigaChat Lite. O estudo foi apoiado pela Fundação para Promoção da Inovação (fasie.ru), e os exemplos são fornecidos para fins de pesquisa e educacionais.