AI系统安全威胁情报源

这篇文章由ITMO人工智能人才中心和ITMO人工智能安全实验室的Viacheslav Mosin撰写，概述了收集与人工智能系统相关的信息安全威胁的关键来源。文章提到，英伟达首席执行官黄仁勋将ChatGPT的发布称为“人工智能的iPhone时刻”，并指出根据麦肯锡的数据，到2025年，88%的公司报告称在至少一项业务功能中使用了人工智能。审查的来源包括MITRE ATLAS、OWASP十大风险文档（针对LLM、代理型、代理技能、MCP）、谷歌安全人工智能框架（SAIF）以及Sber人工智能网络安全威胁模型。MITRE ATLAS因其高更新频率、结构化的战术和技术以及机器可读的GitHub仓库而受到称赞，适合用于构建威胁模型。OWASP列表广受欢迎，并已集成到安全工具中，但每个列表仅限于十项风险。谷歌SAIF提供了一个包含组件、风险和缓解措施的风险图，但威胁数量较少且抽象层次较高。Sber的模型于2026年7月更新，描述了37种威胁和51种实施方法，区分了外部和内部攻击者。文章可能得出结论，MITRE ATLAS是进行综合威胁建模的最佳来源。