Как не стать бесплатным триажером для ИИ-агента на багбаунти
HackerOne
Anthropic
OpenAI
Cursor
Ollama
LM Studio
vLLM
Amazon Web Services
Microsoft
Google/DeepMind
ИИ-агенты находят много ложных уязвимостей, превращая исследователя в триажера. Автор рассказывает о четырёх подходах к ИИ-багхантингу, способах оплаты моделей и трёх слоях верификации находок: правила, RAG и MCP.
Автор, специалист по реагированию на инциденты из Бастиона, описывает проблему: ИИ-агенты генерируют множество ложных отчётов, и исследователь тратит время на их триаж вместо настоящего поиска. Он выделяет четыре подхода: ручной анализ с LLM-советником, автосканеры с LLM-интерпретацией, коробочный агент и верифицированный пайплайн. Для моделей предлагаются локальные (Ollama, LM Studio), API, подписки и корпоративные платформы (Bedrock, Azure OpenAI, Vertex AI). Основное решение — трёхслойная верификация: правила (чеклист обязательных проверок), RAG (база знаний с паттернами уязвимостей) и MCP-инструменты для активной проверки гипотез.
- Сокращения
- LLM = Large Language Model — большая языковая модель
- SQLi = SQL Injection — SQL-инъекция
- XSS = Cross-Site Scripting — межсайтовый скриптинг
- SSRF = Server-Side Request Forgery — подделка серверных запросов
- CSP = Content Security Policy — политика безопасности контента
- CDN = Content Delivery Network — сеть доставки контента
- API = Application Programming Interface — программный интерфейс приложения
- CVE = Common Vulnerabilities and Exposures — общие уязвимости и экспозиции
- FP = False Positive — ложное срабатывание
- OOB = Out-of-Band — внеполосный (канал)
- RAG = Retrieval-Augmented Generation — генерация с дополнением извлечением
- MCP = Model Context Protocol — протокол контекста модели
- PoC = Proof of Concept — доказательство концепции
- N/A = Not Available/Not Applicable — недоступно/неприменимо
Источник: Habr — хаб ИИ —
оригинал