러시아 최초의 안전한 AI 소프트웨어 개발을 위한 GOST 표준, 공개 토론에 들어가다

Проект стандарта ГОСТ Р «Защита информации. Разработка безопасного программного обеспечения, реализующего технологии искусственного интеллекта. Общие требования» разработан ФСТЭК России, Институтом системного программирования РАН (ИСП РАН) и Сбером. Общественное обсуждение продлится до 17 сентября 2026 года. В отличие от ГОСТ Р 71539-2024, охватывающего всю ИИ-систему, данный стандарт фокусируется именно на программном обеспечении внутри неё, дополняя базовый стандарт безопасной разработки ГОСТ Р 56939-2024. В нём «ИИ-ПО» определяется как пакет, включающий ИИ-модель и её веса, программное обеспечение взаимодействия, среду выполнения, расширения (например, RAG, вызовы инструментов) и, опционально, обучающее ПО. Модели классифицируются как собственные, заимствованные (с исходным кодом/весами или подтверждением соответствия от оригинального разработчика) или привлечённые (используемые только при разработке). В стандарт вводятся новые термины, такие как «механизмы ограничения поведения ИИ-модели», «дрейф данных» и «паспорт ИИ-модели». Перечисляется 27 процессов: 10 типовых, 15 модифицированных и 2 полностью специфичных (управление набором данных и безопасное обучение ИИ-моделей). Управление набором данных требует перекрёстной аннотации, учитывает угрозы, такие как отравление данных и утечка, и включает правила для федеративного обучения. Безопасное обучение предписывает размещение инфраструктуры на территории России и запрещает привлечение иностранных подрядчиков. Моделирование угроз должно учитывать базу угроз ФСТЭК, OWASP Top-10 для больших языковых моделей и машинного обучения, MITRE ATT&CK/ATLAS и NIST adversarial ML. Требования безопасности включают происхождение данных, запрещённые классы результатов и маркировку контента. Тестирование должно включать состязательную устойчивость к инъекциям промптов и извлечению данных. Стандарт требует паспорт ИИ-модели и машиночитаемый список компонентов (ППК) для цепочек поставок. Требования к локализации инфраструктуры обучения безусловны, а для хранения данных — зависят от критичности системы. Стандарт явно исключает этические вопросы и вопросы предвзятости.