Ruslands eerste GOST-norm voor veilige AI-softwareontwikkeling gaat in openbare discussie

Het ontwerp van de nationale norm GOST R 'Informatiebescherming. Ontwikkeling van veilige software die kunstmatige intelligentietechnologieën implementeert. Algemene vereisten' is ontwikkeld door FSTEC van Rusland, het Instituut voor Systeemprogrammering van de Russische Academie van Wetenschappen (ISP RAS) en Sber. De openbare discussie duurt tot 17 september 2026. In tegenstelling tot GOST R 71539-2024, die het gehele AI-systeem dekt, richt deze norm zich specifiek op de software daarin en vult hij de basisnorm voor veilige ontwikkeling GOST R 56939-2024 aan. De norm definieert 'AI-software' als een bundel bestaande uit het AI-model en zijn gewichten, interactiesoftware, runtime-omgeving, uitbreidingssoftware (zoals RAG, toolaanroepen) en optioneel trainingssoftware. Modellen worden geclassificeerd als eigen, geleend (met broncode/gewichten of conformiteit door de oorspronkelijke ontwikkelaar) of aangetrokken (alleen gebruikt tijdens ontwikkeling). De norm introduceert nieuwe terminologie zoals 'mechanismen voor beperking van AI-modelgedrag', 'datadrift' en 'AI-modelpaspoort'. Er worden 27 processen opgesomd: 10 typische, 15 gemodificeerde en 2 volledig specifieke (datasetbeheer en veilige training van AI-modellen). Datasetbeheer vereist kruisannotatie, adresseert bedreigingen zoals datacontaminatie en datalekkage, en bevat regels voor federatief leren. Veilige training schrijft voor dat de infrastructuur op Russisch grondgebied moet zijn gevestigd en betrokkenheid van buitenlandse aannemers verbiedt. Dreigingsmodellering moet rekening houden met de dreigingsdatabase van FSTEC, OWASP Top-10 voor LLM en ML, MITRE ATT&CK/ATLAS en NIST adversarial ML. Beveiligingsvereisten omvatten dataherkomst, verboden resultaatklassen en contentetikettering. Testen moet adversarial robuustheid tegen prompt-injectie en data-extractie omvatten. De norm vereist een AI-modelpaspoort en een machineleesbare componentenlijst (PPK) voor toeleveringsketens. Lokalisatievereisten voor trainingsinfrastructuur zijn onvoorwaardelijk, terwijl ze voor gegevensopslag afhankelijk zijn van de systeemkritikaliteit. De norm sluit expliciet ethische kwesties en vooringenomenheid uit.