Rusya'nın güvenli yapay zeka yazılım geliştirme için ilk GOST standardı kamuoyu tartışmasına açıldı

Rusya FSTEC, Rusya Bilimler Akademisi Sistem Programlama Enstitüsü (ISP RAS) ve Sber tarafından 'Bilgi koruması. Yapay zeka teknolojilerini uygulayan güvenli yazılım geliştirme. Genel gereksinimler' başlıklı GOST R standardı taslağı geliştirildi. Kamuoyu tartışmaları 17 Eylül 2026'ya kadar sürecek. Tüm yapay zeka sistemini kapsayan GOST R 71539-2024'ün aksine bu standart, özellikle içindeki yazılıma odaklanarak temel güvenli yazılım geliştirme standardı GOST R 56939-2024'ü tamamlıyor. 'Yapay zeka yazılımını', yapay zeka modeli ve ağırlıkları, etkileşim yazılımı, çalışma zamanı ortamı, genişletme yazılımı (RAG, araç çağrıları gibi) ve isteğe bağlı olarak eğitim yazılımını içeren bir paket olarak tanımlıyor. Modeller; kendi, ödünç alınan (kaynak kod/ağırlıklarla veya orijinal geliştirici tarafından uyumluluk onayı ile) veya çekilen (yalnızca geliştirme sırasında kullanılan) olarak sınıflandırılıyor. Standart, 'yapay zeka modeli davranış kısıtlama mekanizmaları', 'veri kayması' ve 'yapay zeka modeli pasaportu' gibi yeni terminolojiler getiriyor. 27 süreci listeliyor: 10 tipik, 15 değiştirilmiş ve 2 tamamen özgül (veri kümesi yönetimi ve yapay zeka modellerinin güvenli eğitimi). Veri kümesi yönetimi, çapraz açıklama gerektiriyor, veri zehirleme ve sızıntı gibi tehditleri ele alıyor ve federasyonlu öğrenme için kurallar içeriyor. Güvenli eğitim, altyapının Rusya topraklarında bulunmasını ve yabancı yüklenicilerin katılımını yasaklıyor. Tehdit modellemesi, FSTEC'in tehdit veritabanını, LLM ve ML için OWASP Top-10'u, MITRE ATT&CK/ATLAS'ı ve NIST adversarial ML'yi dikkate almalıdır. Güvenlik gereksinimleri arasında veri kaynağı, yasaklanmış sonuç sınıfları ve içerik etiketlemesi yer alıyor. Testler, prompt injection ve veri çıkarmaya karşı adversarial sağlamlığı içermelidir. Standart, bir yapay zeka modeli pasaportu ve tedarik zincirleri için makine tarafından okunabilir bir bileşen listesi (PPK) gerektiriyor. Eğitim altyapısı için yerelleştirme gereksinimleri koşulsuzken, veri depolama için sistemin kritikliğine bağlıdır. Standart, etik ve önyargı konularını açıkça hariç tutuyor.