أول معيار GOST روسي لتطوير برامج الذكاء الاصطناعي الآمنة يدخل النقاش العام

Проект стандарта ГОСТ Р «Защита информации. Разработка безопасного программного обеспечения, реализующего технологии искусственного интеллекта. Общие требования» разработан ФСТЭК России, Институтом системного программирования РАН (ИСП РАН) и Сбером. Общественное обсуждение продлится до 17 сентября 2026 года. В отличие от ГОСТ Р 71539-2024, охватывающего всю систему ИИ, данный стандарт фокусируется именно на программном обеспечении внутри нее, дополняя базовый стандарт безопасной разработки ГОСТ Р 56939-2024. Он определяет «программное обеспечение ИИ» как комплект, включающий модель ИИ и ее веса, взаимодействующее программное обеспечение, среду выполнения, расширяющее программное обеспечение (например, RAG, вызовы инструментов) и, опционально, обучающее программное обеспечение. Модели классифицируются как собственные, заимствованные (с исходным кодом/весами или соответствием от оригинального разработчика) или привлеченные (используемые только при разработке). Стандарт вводит новую терминологию, такую как «механизмы ограничения поведения модели ИИ», «дрейф данных» и «паспорт модели ИИ». Он перечисляет 27 процессов: 10 типовых, 15 модифицированных и 2 полностью специфических (управление наборами данных и безопасное обучение моделей ИИ). Управление наборами данных требует перекрестной аннотации, учитывает угрозы, такие как отравление данных и утечка, и включает правила для федеративного обучения. Безопасное обучение требует, чтобы инфраструктура располагалась на территории России, и запрещает привлечение иностранных подрядчиков. Моделирование угроз должно учитывать базу угроз ФСТЭК, OWASP Top-10 для LLM и ML, MITRE ATT&CK/ATLAS и NIST adversarial ML. Требования безопасности включают происхождение данных, запрещенные классы результатов и маркировку контента. Тестирование должно включать устойчивость к состязательным атакам, таким как внедрение подсказок и извлечение данных. Стандарт требует паспорт модели ИИ и машиночитаемый список компонентов (PPK) для цепочек поставок. Требования к локализации инфраструктуры обучения являются безусловными, а к хранению данных зависят от критичности системы. Стандарт явно исключает этические вопросы и предвзятость.