OWASP LLM10: Неограниченное потребление — тестирование современных языковых моделей на ресурсоёмких промптах
Статья рассматривает категорию OWASP LLM10 (Неограниченное потребление) в контексте безопасности больших языковых моделей, описывая классы атак, вызывающих непропорциональное потребление ресурсов. Авторы протестировали российские флагманские модели YandexGPT Lite 5 и GigaChat Lite с помощью системы AI Red Team, включающей более 2000 вредоносных промптов.
Крупные языковые модели все чаще используются в корпоративных системах, но с ростом их популярности меняется и профиль угроз: злоумышленники могут формулировать запросы, вынуждающие модели выполнять ресурсоемкие задачи, потребляя процессорное время, память и тысячи токенов. В рейтинге OWASP Top 10 для приложений на основе больших языковых моделей присутствует категория LLM10: «Неограниченное
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал