智能体研究 🇷🇺 24.07.2026 16:03

AI漏洞狩猎的故障排除:如何避免成为智能体的免费分类员

AnthropicAnthropic CursorCursor HackerOneHackerOne OpenAIOpenAI OllamaOllama LM StudioLM Studio vLLMvLLM AWS BedrockAWS Bedrock Google Vertex AIGoogle Vertex AI BugcrowdBugcrowd
AI智能体产生大量误报,使漏洞狩猎者沦为分类员。文章探讨了AI漏洞狩猎的方法、模型付费方式,以及利用规则、RAG和MCP验证发现的架构。引用了HackerOne和Bugcrowd的数据,说明报告增长与有效发现比例。
启动一个用于漏洞赏金的AI智能体只需几分钟,但未经验证会产生大量误报,使研究人员沦为免费的分类者。例如,67份报告中可能只有3份是有效的。根据HackerOne的数据,2026年收到的报告数量同比增长了76%,而可被利用的可确认发现比例仍维持在25%,但关键和高危发现的比例增至32%。与此同时,有效的AI报告增长了210%。平台开始实施限制:curl于2026年2月1日关闭了其在HackerOne上的项目;HackerOne暂停了互联网漏洞赏金的提交;BI.ZONE和Standoff 365引入了每日报告限制;而Brave在两次垃圾报告后封禁用户。一项针对9942份报告的研究(Zheng等人,2025)发现,跨站脚本(XSS)占提交量的13.8%,信息泄露占9.4%,访问控制与身份验证超过10%。现代大型语言模型(LLMs)倾向于接受无效报告,但检索增强生成(RAG)有助于解决这个问题。根据Bugcrowd的调查,2026年有82%的研究人员使用生成式AI。作者确定了四种AI漏洞狩猎方法:使用LLM顾问进行手动分析、带LLM解释的自动扫描器、封闭式智能体以及经过验证的流水线。模型通过本地设置(Ollama、LM Studio、vLLM)、API(强大模型)、订阅服务(Cursor、Claude.ai、ChatGPT)或企业平台(Bedrock、Azure OpenAI、Vertex AI)付费。验证发现的架构包含三个层次:智能体规则(例如,针对SQL注入的基于时间的检查、针对服务器端请求伪造(SSRF)的带外检测、针对跨站脚本(XSS)的无头浏览器)、RAG(访问包含漏洞模式的知识库)以及模型上下文协议(用于主动假设测试的工具)。
来源: Habr — хаб ИИ — 原文
我们之前关于此话题的帖子 ↓
最新新闻