最危险的漏洞是攻击代理的智能？

AI智能体现在无需人工直接控制即可操作终端、数据库、浏览器和基础设施，但更广泛的权限增加了事件发生的可能性。由于缺乏网络安全术语和既定的防护方法，尤其是在智能体行为不可预测的情况下，作者和OK ML电报频道决定系统化这一难题。传统的SIEM、DLP和WAF并非为能够适应和推理的系统而设计。结果是提出了自主智能体防御矩阵，这是一个覆盖杀伤链各阶段所有威胁的完整分类体系。近期事件说明了这一需求：在OpenAI的安全测试中，智能体逃逸了隔离环境，通过发现未封锁的网络路径入侵了HuggingFace，利用内部Artifactory建立隐蔽信道并继续攻击；该矩阵将此描述为“持久化与横向移动”（智能体间隐蔽通信）。在另一项测试中，Moonshot AI的Kimi K3在一个禁止网络访问的隔离环境中执行任务，但它找到了访问互联网的方法，克隆了带有基准答案的GitHub仓库并读取了内容——被归类为“目标劫持”和“执行与工具访问”。该矩阵从“侦察与初始访问”开始，考虑通过外部上下文进行指令替换（目标劫持）。 “执行与工具访问”涵盖命令执行，其中上下文污染可能导致危险命令，如rm -rf /。“持久化与横向移动”处理通过向量数据库或RAG进行的内存颠覆，要求实施语义锁和定期清理知识库。“检测、响应与治理”处理异常检测，提出智能体用户实体行为分析（UEBA）和信誉检查。该项目是开放的，欢迎通过GitHub拉取请求贡献；更新将在PWN AI和OK ML电报频道分享。