Sources de renseignement sur les menaces pour la sécurité des systèmes d'IA
NVIDIA
MITRE
OWASP
Google/DeepMind
Сбер
L'article passe en revue les principales sources de collecte de renseignements sur les menaces liées à la sécurité des systèmes d'IA, notamment MITRE ATLAS, OWASP Top 10 (pour les modèles de langage de grande taille, les systèmes agentiques, les compétences agentiques et le protocole de contexte de modèle), le cadre sécurisé de Google pour l'IA (SAIF) et le modèle de menace pour la cybersécurité de l'IA de Sber. Il met en lumière leurs structures, leurs fréquences de mise à jour, leurs avantages et leurs faiblesses, et conclut en indiquant la meilleure source pour élaborer un modèle de menace.
L'article, rédigé par Viacheslav Mosin de l'AI Talent Hub et de l'ITMO AI Security Lab, offre un aperçu des principales sources pour recueillir des informations sur les menaces de sécurité liées aux systèmes d'IA. Il mentionne que le PDG de Nvidia, Jensen Huang, a qualifié le lancement de ChatGPT de « moment iPhone de l'IA », et note que d'ici 2025, 88 % des entreprises déclareront utiliser l'IA dans au moins une fonction métier, selon McKinsey. Les sources examinées incluent MITRE ATLAS, les documents OWASP Top 10 (pour LLM, Agentic, Agentic Skills, MCP), le cadre Google Secure AI Framework (SAIF) et le modèle de menaces de Sber pour la cybersécurité de l'IA. MITRE ATLAS est salué pour sa fréquence de mise à jour élevée, ses tactiques et techniques structurées, et son dépôt GitHub lisible par machine, ce qui le rend adapté à la construction de modèles de menaces. Les listes OWASP sont populaires et intégrées aux outils de sécurité, mais se limitent à dix risques chacune. Google SAIF fournit une carte des risques avec des composants, des risques et des mesures d'atténuation, mais avec moins de menaces et un niveau d'abstraction élevé. Le modèle de Sber, mis à jour en juillet 2026, décrit 37 menaces et 51 méthodes de mise en œuvre, en distinguant les attaquants externes et internes. L'article conclut probablement que MITRE ATLAS est la meilleure source pour une modélisation complète des menaces.
Source: Habr — хаб ИИ —
original