Primeiro padrão GOST da Rússia para desenvolvimento seguro de software de IA entra em discussão pública

O projeto de norma GOST R 'Proteção da informação. Desenvolvimento de software seguro que implementa tecnologias de inteligência artificial. Requisitos gerais' foi desenvolvido pelo FSTEC da Rússia, pelo Instituto de Programação de Sistemas da Academia Russa de Ciências (ISP RAS) e pelo Sber. A discussão pública vai até 17 de setembro de 2026. Diferentemente da GOST R 71539-2024, que cobre todo o sistema de IA, esta norma foca especificamente no software dentro dele, complementando a norma base de desenvolvimento seguro GOST R 56939-2024. Ela define 'software de IA' como um pacote que inclui o modelo de IA e seus pesos, software de interação, ambiente de execução, software de extensão (como RAG, chamadas de ferramentas) e, opcionalmente, software de treinamento. Os modelos são classificados como próprios, emprestados (com código-fonte/pesos ou conformidade do desenvolvedor original) ou atraídos (usados apenas durante o desenvolvimento). A norma introduz nova terminologia, como 'mecanismos de restrição de comportamento do modelo de IA', 'deriva de dados' e 'passaporte do modelo de IA'. Ela lista 27 processos: 10 típicos, 15 modificados e 2 totalmente específicos (gestão de conjuntos de dados e treinamento seguro de modelos de IA). A gestão de conjuntos de dados exige anotação cruzada, aborda ameaças como envenenamento e vazamento de dados, e inclui regras para aprendizado federado. O treinamento seguro determina que a infraestrutura deve estar localizada em território russo e proíbe o envolvimento de contratantes estrangeiros. A modelagem de ameaças deve considerar o banco de dados de ameaças do FSTEC, o OWASP Top-10 para LLM e ML, MITRE ATT&CK/ATLAS e ML adversarial do NIST. Os requisitos de segurança incluem proveniência de dados, classes de resultados proibidos e rotulagem de conteúdo. Os testes devem incluir robustez adversarial contra injeção de prompt e extração de dados. A norma exige um passaporte do modelo de IA e uma lista de componentes legível por máquina (PPK) para cadeias de suprimento. Os requisitos de localização para infraestrutura de treinamento são incondicionais, enquanto para armazenamento de dados dependem da criticidade do sistema. A norma exclui explicitamente questões éticas e de viés.