данный стандарт фокусируется именно на программном обеспечении внутри неё, дополняя базовый стандарт безопасной разработки ГОСТ Р 56939-2024. Он определяет «программное обеспечение ИИ» как совокупность, включающую модель ИИ и её веса, программное обеспечение взаимодействия, среду выполнения, расширяющее программное обеспечение (например, RAG, вызовы инструментов) и, опционально, программное обеспечение обучения. Модели классифицируются как собственные, заимствованные (с исходным кодом/весами или подтверждением соответствия от разработчика) или привлечённые (используемые только при разработке). Стандарт вводит новую терминологию, такую как «механизмы ограничения поведения модели ИИ», «дрейф данных» и «паспорт модели ИИ». Он перечисляет 27 процессов: 10 типовых, 15 модифицированных и 2 полностью специфических (управление наборами данных и безопасное обучение моделей ИИ). Управление наборами данных требует перекрёстной аннотации, учитывает угрозы, такие как отравление данных и утечка, и включает правила для федеративного обучения. Безопасное обучение требует, чтобы инфраструктура располагалась на территории РФ, и запрещает привлечение иностранных подрядчиков. Моделирование угроз должно учитывать базу угроз ФСТЭК, OWASP Top-10 для больших языковых моделей и машинного обучения, MITRE ATT&CK/ATLAS и состязательное машинное обучение NIST. Требования к безопасности включают происхождение данных, запрещённые классы результатов и маркировку контента. Тестирование должно включать состязательную устойчивость к инъекциям подсказок и извлечению данных. Стандарт требует паспорт модели ИИ и машиночитаемый список компонентов для цепочек поставок. Требования к локализации инфраструктуры обучения являются безусловными, а к хранению данных — зависят от критичности системы. Стандарт явно

Показать ещё ↓