Тестирование российских LLM против OWASP LLM10: атаки неограниченного потребления ресурсов
Исследователи из проекта AI Red Team протестировали российские флагманские модели YandexGPT Lite 5 и GigaChat Lite на устойчивость к атакам OWASP LLM10 (атаки неограниченного потребления ресурсов). Они использовали специально созданные промпты для запуска рекурсивного расширения контекста, фрактального вложения, комбинаторного взрыва и мультиагентных симуляций, чтобы увеличить вычислительную нагрузку. Исследование подчеркивает, что традиционные методы защиты недостаточны против таких атак на истощение ресурсов.
В статье рассматривается категория OWASP (Open Web Application Security Project — открытый проект по безопасности веб-приложений) LLM10: Unbounded Consumption («Неограниченное потребление ресурсов»), охватывающая атаки, которые заставляют языковые модели (LLM, Large Language Model — большая языковая модель) выполнять непропорционально большой объём вычислений, что приводит к исчерпанию ресурсов и
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал