Yapay Zeka Sistem Güvenliği için Tehdit İstihbarat Kaynakları
NVIDIA
MITRE
OWASP
Google/DeepMind
Сбер
Makale, yapay zeka sistemleriyle ilgili bilgi güvenliği tehditlerini toplamak için başlıca kaynakları inceliyor: MITRE ATLAS, OWASP Top 10 (LLM, Ajanik, Ajanik Beceriler, MCP için), Google Secure AI Framework (SAIF) ve Sber'in Yapay Zeka Siber Güvenliği için Tehdit Modeli. Yapılarını, güncelleme sıklıklarını, avantajlarını ve zayıf yönlerini vurgulayarak, bir tehdit modeli oluşturmak için en iyi kaynakla sonuçlandırıyor.
ITMO'nun AI Talent Hub ve ITMO AI Security Lab'den Viacheslav Mosin tarafından yazılan makale, yapay zeka sistemleriyle ilgili bilgi güvenliği tehditlerini toplamak için temel kaynaklara genel bir bakış sunuyor. Nvidia CEO'su Jensen Huang'ın ChatGPT'nin lansmanını 'yapay zekanın iPhone anı' olarak adlandırdığı ve McKinsey'e göre 2025 yılına kadar şirketlerin %88'inin en az bir iş fonksiyonunda yapay zeka kullandığını bildirdiği belirtiliyor. İncelenen kaynaklar arasında MITRE ATLAS, OWASP Top 10 belgeleri (LLM, Agentic, Agentic Skills, MCP için), Google Secure AI Framework (SAIF) ve Sber'in Yapay Zeka Siber Güvenliği için Tehdit Modeli yer alıyor. MITRE ATLAS, yüksek güncelleme sıklığı, yapılandırılmış taktik ve teknikleri ve makine tarafından okunabilir GitHub deposu sayesinde tehdit modelleri oluşturmak için uygun olduğu için övülüyor. OWASP listeleri popülerdir ve güvenlik araçlarına entegre edilmiştir, ancak her biri on riskle sınırlıdır. Google SAIF, bileşenler, riskler ve azaltma önlemleri ile bir risk haritası sağlar, ancak daha az tehdit ve yüksek düzeyde soyutlama içerir. Sber'in modeli, Temmuz 2026'da güncellenmiş olup, dış ve iç saldırganları ayırt ederek 37 tehdit ve 51 uygulama yöntemini açıklamaktadır. Makale muhtemelen MITRE ATLAS'ın kapsamlı tehdit modellemesi için en iyi kaynak olduğu sonucuna varmaktadır.
Kaynak: Habr — хаб ИИ —
orijinal