智能体研究 🇷🇺 24.07.2026 16:03

AI漏洞猎杀故障排查:如何避免成为智能体的免费分流员

AnthropicAnthropic CursorCursor HackerOneHackerOne OpenAIOpenAI OllamaOllama LM StudioLM Studio vLLMvLLM AWS BedrockAWS Bedrock Google Vertex AIGoogle Vertex AI BugcrowdBugcrowd
AI智能体产生大量误报,将漏洞猎手变成分流员。文章探讨了AI漏洞猎杀的方法、模型付费方式以及使用规则、RAG和MCP的验证架构。文中引用了HackerOne和Bugcrowd的数据,显示报告数量增加以及有效发现占比的变化。
在漏洞赏金平台运行AI代理只需要几分钟,但未经验证的情况下会产生大量误报,使研究人员沦为免费分类员。例如,67份报告中可能只有3份是有效的。根据HackerOne的数据,2026年收到的报告数量同比增长76%,经确认的可利用漏洞比例仍保持在25%,但严重和高危漏洞的占比升至32%。同时,有效AI报告的数量增长了210%。各平台开始实施限制:curl从2026年2月1日起关闭了HackerOne上的项目,HackerOne暂停接收Internet Bug Bounty的提交,BI.ZONE和Standoff 365每日限制报告数量,而Brave在两次垃圾报告后直接封禁用户。一项基于9942份报告的研究(Zheng等人,2025年)显示,跨站脚本(XSS)占提交量的13.8%,信息泄露占9.4%,访问控制与认证类超过10%。当前的LLM倾向于接受无效报告,但检索增强生成(RAG)有助于解决这一问题。根据Bugcrowd的调查,2026年有82%的研究人员使用生成式AI。作者将AI漏洞挖掘的方法分为四类:借助LLM顾问进行手动分析、结合LLM解释的自动扫描器、一体化代理以及经过验证的流水线。模型付费方式包括本地部署(Ollama、LM Studio、vLLM)、API(强模型)、订阅(Cursor、Claude.ai、ChatGPT)或企业平台(Bedrock、Azure OpenAI、Vertex AI)。发现的验证架构包含三个层级:代理规则(例如,针对SQL注入的时间检测、针对SSRF的带外检测、针对XSS的无头浏览器)、RAG(接入包含漏洞模式的数据库)以及MCP(用于主动验证假设的工具)。
来源: Habr — хаб ИИ — 原文
我们之前关于此话题的帖子 ↓
最新新闻