MLSecOps：不同AI用例的不同优先级

生成式AI已成为开发的一部分，既用作编码助手（如Copilot、Cursor、Claude、ChatGPT），也作为嵌入式产品组件。这些场景在风险、控制点和错误代价上各不相同。MLSecOps需要将安全性整合到AI系统生命周期中，从提示和代码到数据集、模型、推理API、运行时保护以及生产监控。在开发者工具场景中，主要威胁包括生成不安全代码、秘密泄露、间接提示注入和合规审计；控制措施应靠近开发者部署，包括LLM/AI防火墙、IDE检查、PR审查，以及作为最后防线的CI/CD。在产品集成场景中，AI成为运行时攻击面，威胁包括提示注入和越狱、模型提取、机器学习供应链妥协以及对AI代理的攻击。代理应被视为特权用户，具有最小权限和沙箱化；评估“致命三要素”（私有数据访问、不可信输入、外部渠道）有助于风险评估。文章强调，传统的AppSec工具无法捕捉这些AI特有的漏洞，因此MLSecOps是DevSecOps的扩展而非替代。