Probando los LLM rusos contra OWASP LLM10: ataques de consumo ilimitado

El artículo analiza la categoría OWASP LLM10: Consumo Descontrolado, que se centra en ataques que obligan a los modelos de lenguaje a realizar cantidades desproporcionadamente grandes de cómputo, lo que conduce al agotamiento de recursos y a la denegación de servicio. Los investigadores prepararon indicaciones maliciosas que representan varias clases de ataque, entre ellas la expansión recursiva del contexto (recursión tipo Quine), el anidamiento fractal, la explosión computacional, la explosión combinatoria semántica, la simulación multiagente y el abuso de tokens extraños. Estas indicaciones pueden hacer que los modelos generen respuestas excesivamente largas, simulen miles de entidades o analicen recursivamente su propio razonamiento, todo ello mientras parecen solicitudes legítimas de los usuarios. El estudio probó dos modelos insignia rusos de lenguaje grande, YandexGPT Lite 5 y GigaChat Lite, mediante el servicio web AI Red Team, que admite más de 2000 indicaciones maliciosas, 200 de las cuales están dirigidas a OWASP LLM10. La evaluación involucró al LLM como juez, con validación manual. El artículo enfatiza que las medidas de seguridad tradicionales, como el filtrado de palabras clave, son ineficaces, y destaca la necesidad de defensas arquitectónicas más robustas.