ロシア初のGOST標準、安全なAIソフトウェア開発に関する草案が公開協議入り

ロシアのFSTEC、ロシア科学アカデミーシステムプログラミング研究所（ISP RAS）、およびSberによって、GOST R標準の草案「情報保護。人工知能技術を実装する安全なソフトウェアの開発。一般要件」が策定されました。公開協議は2026年9月17日まで行われます。既存のGOST R 71539-2024がAIシステム全体を対象としているのに対し、この標準はその中のソフトウェアに特化し、基本となる安全な開発標準であるGOST R 56939-2024を補完します。「AIソフトウェア」を、AIモデルとその重み、対話ソフトウェア、ランタイム環境、拡張ソフトウェア（RAG、ツール呼び出しなど）、およびオプションで学習ソフトウェアを含むバンドルと定義しています。モデルは、自社開発、借用（ソースコード/重みまたは元の開発者によるコンプライアンスがあるもの）、または誘致（開発中のみ使用）に分類されます。この標準では、「AIモデルの動作制限メカニズム」、「データドリフト」、「AIモデルパスポート」などの新しい用語を導入しています。27のプロセスを列挙しており、その内訳は10の標準プロセス、15の修正プロセス、2つの完全に固有のプロセス（データセット管理とAIモデルの安全な学習）です。データセット管理では、クロスアノテーションを要求し、データポイズニングや漏洩などの脅威に対処し、連合学習に関するルールを含みます。安全な学習では、インフラがロシア領内に設置され、外国の請負業者の関与を禁止することを義務付けています。脅威モデリングでは、FSTECの脅威データベース、LLMおよびML向けのOWASP Top-10、MITRE ATT&CK/ATLAS、NISTの敵対的機械学習を考慮する必要があります。セキュリティ要件には、データの来歴、禁止された結果クラス、コンテンツのラベリングが含まれます。テストでは、プロンプトインジェクションやデータ抽出に対する敵対的ロバスト性を含める必要があります。この標準では、AIモデルパスポートと、サプライチェーン向けの機械可読コンポーネントリスト（PPK）を要求しています。学習インフラの国内化要件は無条件ですが、データ保存についてはシステムの重要度に依存します。この標準は、倫理やバイアスの問題を明示的に除外しています。