OWASP LLM10: Consumo Sin Límites — Pruebas de Modelos de Lenguaje Modernos con Prompts de Alto Consumo de Recursos

Los grandes modelos de lenguaje se utilizan cada vez más en sistemas corporativos, pero con su popularidad, el perfil de amenaza cambia: los atacantes pueden formular solicitudes que obligan a los modelos a realizar tareas intensivas en recursos, consumiendo tiempo de CPU, memoria y miles de tokens. El Top 10 de OWASP para aplicaciones LLM incluye la categoría LLM10: Consumo sin límites, que adapta la idea de Denegación de Servicio (DoS) a la IA generativa. A diferencia de ataques clásicos como la inyección de prompts o la fuga de datos, estos ataques se dirigen a los recursos computacionales. El artículo describe varias clases de ataques: expansión recursiva de contexto (Recursión tipo Quine), anidamiento fractal, explosión computacional, explosión combinatoria semántica, simulación multiagente y abuso de tokens glitch. Los autores llevaron a cabo experimentos utilizando el sistema AI Red Team, que admite más de 2000 prompts maliciosos, 200 de los cuales se dirigen a LLM10. Probaron dos modelos insignia rusos: YandexGPT Lite 5 y GigaChat Lite. El estudio fue respaldado por la Fundación para la Promoción de la Innovación (fasie.ru), y los ejemplos se proporcionan con fines de investigación y educativos.