OWASP LLM10：無限の消費 — リソース集約型プロンプトによる最新言語モデルのテスト

大規模言語モデルは企業システムでの利用が増えていますが、その普及に伴い、脅威の状況も変化しています。攻撃者は、モデルにリソース集約型のタスクを強制し、CPU時間、メモリ、数千ものトークンを消費させるリクエストを考案することができます。LLMアプリケーション向けのOWASPトップ10には、生成AIにサービス拒否（DoS）の概念を適用したLLM10: 無制限な消費というカテゴリが含まれています。プロンプトインジェクションやデータ漏えいなどの古典的な攻撃とは異なり、これらの攻撃は計算リソースを標的にします。この記事では、再帰的コンテキスト拡張（クワイン風再帰）、フラクタルネスト、計算爆発、意味論的組み合わせ爆発、マルチエージェントシミュレーション、グリッチトークンの悪用など、いくつかの攻撃クラスを説明しています。著者らは、2000以上の悪意のあるプロンプトをサポートし、そのうち200がLLM10を標的とするAI Red Teamシステムを使用して実験を行いました。彼らは、ロシアの代表的モデルであるYandexGPT Lite 5とGigaChat Liteの2つをテストしました。この研究は、イノベーション振興財団（fasie.ru）によって支援されており、例は研究および教育目的で提供されています。