OWASP LLM10：无限消耗——针对资源密集型提示对现代语言模型进行测试

大型语言模型正越来越多地应用于企业系统中，但随着其普及，威胁态势也随之改变：攻击者可以构造请求，迫使模型执行资源密集型任务，消耗CPU时间、内存和数千个令牌。OWASP LLM应用十大风险中包含了LLM10：无限制消耗类别，该类别将拒绝服务（DoS）理念适配到生成式AI。与提示注入或数据泄露等经典攻击不同，这类攻击针对计算资源。文章描述了几种攻击类别：递归上下文扩展（类似奎因递归）、分形嵌套、计算爆炸、语义组合爆炸、多智能体模拟以及故障令牌滥用。作者使用AI红队系统进行了实验，该系统支持超过2000个恶意提示，其中200个针对LLM10。他们测试了两个俄罗斯旗舰模型：YandexGPT Lite 5和GigaChat Lite。该研究得到创新促进基金会（fasie.ru）的支持，提供的示例仅供研究和教育目的使用。