OWASP LLM10: 무제한 소비 — 리소스 집약적 프롬프트에서 현대 언어 모델 테스트

대규모 언어 모델은 기업 시스템에서 점점 더 많이 사용되고 있지만, 그 인기가 높아짐에 따라 위협의 양상도 변화하고 있습니다. 공격자들은 모델이 CPU 시간, 메모리, 수천 개의 토큰을 소비하는 리소스 집약적인 작업을 수행하도록 강제하는 요청을 구성할 수 있습니다. OWASP Top 10 for LLM Applications에는 생성형 AI에 DoS(Denial of Service) 개념을 적용한 LLM10: 무제한 소비(Unbounded Consumption) 범주가 포함됩니다. 프롬프트 인젝션(Prompt Injection)이나 데이터 유출(Data Leakage)과 같은 고전적인 공격과 달리, 이러한 공격은 계산 리소스를 대상으로 합니다. 이 기사에서는 재귀적 컨텍스트 확장(Quine 유사 재귀), 프랙탈 중첩, 계산 폭발, 의미론적 조합 폭발, 다중 에이전트 시뮬레이션, 글리치 토큰 악용 등 여러 공격 클래스를 설명합니다. 저자들은 2000개 이상의 악성 프롬프트를 지원하고 그중 200개가 LLM10을 대상으로 하는 AI Red Team 시스템을 사용하여 실험을 수행했습니다. 그들은 두 가지 러시아 주력 모델인 YandexGPT Lite 5와 GigaChat Lite를 테스트했습니다. 이 연구는 혁신 촉진 재단(fasie.ru)의 지원을 받았으며, 예시는 연구 및 교육 목적으로 제공됩니다.