Уязвимость ИИ-агента GitHub: одно предложение в Issue может украсть приватные данные
Noma Security обнаружила уязвимость с помощью инъекции промптов под названием GitLost, которая эксплуатирует новые агентные рабочие процессы GitHub для утечки приватных данных. Атакующие встраивают скрытые инструкции в публичные Issue GitHub, обходя меры безопасности и побуждая ИИ-агента раскрывать конфиденциальную информацию в публичных комментариях.
Noma Security 的 GitLost 是一个针对 GitHub Agentic Workflows 的提示注入漏洞，攻击者无需任何黑客技能即可窃取私有数据。易受攻击的工作流配置为在 issues.assigned 事件上运行，读取 issue 标题和正文，通过 add-comment 工具发布回复，并拥有对组织中其他仓库（包括私有仓库）的读取权限。攻击者只需在使用了该易受攻击工作流的组织的公共仓库中创建一个 issue 并等待即可，无需任何凭据或访问权限。尽管 GitHub 有严格的保护机制，使用关键词 'Additionally' 触发了意外的模型行为，导致其访问受限文件并将其内容发布在公开评论中。传统安全模型假设代码维护信任边界，但在代理系统中，信任部分依赖于模型行为，而模型行为本质上是遵循指令的。代理 AI 中的提示注入正变得像 Web 应用中的 SQL
Показать ещё ↓
Источник: InfoQ 中国 —
оригинал