रूस का सुरक्षित AI सॉफ्टवेयर विकास के लिए पहला GOST मानक सार्वजनिक चर्चा में प्रवेश करता है

ड्राफ्ट GOST R मानक 'सूचना संरक्षण। कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों को लागू करने वाले सुरक्षित सॉफ्टवेयर का विकास। सामान्य आवश्यकताएँ' को रूस के FSTEC, रूसी विज्ञान अकादमी के सिस्टम प्रोग्रामिंग संस्थान (ISP RAS), और Sber द्वारा विकसित किया गया था। सार्वजनिक चर्चा 17 सितंबर, 2026 तक चलेगी। GOST R 71539-2024 के विपरीत, जो संपूर्ण AI सिस्टम को कवर करता है, यह मानक विशेष रूप से उसमें सॉफ्टवेयर पर ध्यान केंद्रित करता है, जो आधारभूत सुरक्षित विकास मानक GOST R 56939-2024 को पूरक करता है। यह 'AI सॉफ्टवेयर' को AI मॉडल और उसके वेट, इंटरैक्शन सॉफ्टवेयर, रनटाइम एनवायरनमेंट, एक्सटेंशन सॉफ्टवेयर (जैसे RAG, टूल कॉल), और वैकल्पिक रूप से प्रशिक्षण सॉफ्टवेयर सहित एक बंडल के रूप में परिभाषित करता है। मॉडल को स्वयं के, उधार लिए गए (सोर्स कोड/वेट या मूल डेवलपर द्वारा अनुपालन के साथ), या आकर्षित (केवल विकास के दौरान उपयोग किए जाने वाले) के रूप में वर्गीकृत किया जाता है। मानक नई शब्दावली पेश करता है जैसे 'AI मॉडल व्यवहार प्रतिबंध तंत्र', 'डेटा ड्रिफ्ट', और 'AI मॉडल पासपोर्ट'। यह 27 प्रक्रियाओं को सूचीबद्ध करता है: 10 विशिष्ट, 15 संशोधित, और 2 पूरी तरह से विशिष्ट (डेटा सेट प्रबंधन और AI मॉडल का सुरक्षित प्रशिक्षण)। डेटा सेट प्रबंधन के लिए क्रॉस-एनोटेशन की आवश्यकता होती है, यह डेटा पॉइज़निंग और लीकेज जैसे खतरों को संबोधित करता है, और फेडरेटेड लर्निंग के लिए नियम शामिल करता है। सुरक्षित प्रशिक्षण में यह अनिवार्य है कि बुनियादी ढांचा रूसी क्षेत्र पर स्थित हो और विदेशी ठेकेदारों की भागीदारी निषिद्ध हो। थ्रेट मॉडलिंग में FSTEC के खतरा डेटाबेस, OWASP टॉप-10 फॉर एलएलएम एंड एमएल, MITRE ATT&CK/ATLAS, और NIST एडवरसेरियल एमएल पर विचार किया जाना चाहिए। सुरक्षा आवश्यकताओं में डेटा उद्गम, निषिद्ध परिणाम वर्ग, और सामग्री लेबलिंग शामिल है। परीक्षण में प्रॉम्प्ट इंजेक्शन और डेटा निष्कर्षण के खिलाफ एडवरसेरियल रोबस्टनेस शामिल होना चाहिए। मानक के लिए AI मॉडल पासपोर्ट और आपूर्ति श्रृंखला के लिए मशीन-पठनीय घटक सूची (PPK) की आवश्यकता है। प्रशिक्षण बुनियादी ढांचे के लिए स्थानीयकरण आवश्यकताएँ बिना शर्त हैं, जबकि डेटा भंडारण के लिए वे सिस्टम क्रिटिकलिटी पर निर्भर करती हैं। मानक स्पष्ट रूप से नैतिक और पूर्वाग्रह मुद्दों को शामिल नहीं करता है।