俄罗斯首个保障人工智能软件安全开发的GOST标准进入公众讨论阶段

俄罗斯联邦技术出口管制局（FSTEC）、俄罗斯科学院系统编程研究所（ISP RAS）和俄罗斯联邦储蓄银行（Sber）共同制定了国家标准草案《信息保护。实现人工智能技术的安全软件开发。通用要求》。公众讨论将持续至2026年9月17日。与涵盖整个人工智能系统的GOST R 71539-2024不同，本标准侧重于其中的软件部分，是对基础安全开发标准GOST R 56939-2024的补充。它将“人工智能软件”定义为一个集合，包括人工智能模型及其权重、交互软件、运行时环境、扩展软件（如RAG、工具调用），以及可选的训练软件。模型分为自有模型、借用模型（附带源代码/权重或由原始开发者提供合规性）和吸引模型（仅在开发过程中使用）。标准引入了新的术语，例如“人工智能模型行为限制机制”、“数据漂移”和“人工智能模型护照”。它列出了27个过程：10个典型过程、15个修改过程和2个完全特定的过程（数据集管理和人工智能模型的安全训练）。数据集管理要求交叉标注，解决数据投毒和数据泄露等威胁，并包含联邦学习规则。安全训练要求基础设施必须位于俄罗斯境内，并禁止外国承包商参与。威胁建模必须考虑FSTEC的威胁数据库、针对大语言模型和机器学习的OWASP Top十大威胁、MITRE ATT&CK/ATLAS以及美国国家标准与技术研究院（NIST）的对抗性机器学习。安全要求包括数据来源、禁止的结果类别和内容标注。测试必须包括对抗性鲁棒性测试，以抵御提示注入和数据提取。标准要求人工智能模型护照和机器可读的组件清单（PPK），以管理供应链。训练基础设施的本地化要求是无条件的，而数据存储的本地化要求则取决于系统的关键性。标准明确排除了伦理和偏见问题。