Sberbank publie un modèle de menace actualisé pour les systèmes d'IA

Sberbank a ouvert l'accès à son modèle de menace mis à jour pour les systèmes d'IA, publié sur le portail Kibrary dans la rubrique « Pour les experts ». Le modèle reflète les changements dans le paysage des cybermenaces provoqués par l'adoption généralisée des modèles génératifs, des systèmes multi-agents, des systèmes RAG, des adaptateurs pour grands modèles de langage (LLM) et des architectures d'IA de plus en plus complexes. Il décrit 37 menaces et 51 méthodes de mise en œuvre, chacune avec ses conséquences possibles, les propriétés informationnelles affectées, les objets associés et les étapes du cycle de vie. Les menaces peuvent entraîner des fuites de données, une corruption des données, des violations de disponibilité, un compromis du modèle et des actions non autorisées des agents d'IA. Le modèle associe les menaces aux types d'attaquants potentiels avec différents niveaux de conscience, capacités techniques et accès, et élargit la liste des objets de protection pour inclure des points d'attaque critiques auparavant non considérés. Il est conçu pour les développeurs d'IA, les ingénieurs MLOps, les architectes, les spécialistes en cybersécurité et les gestionnaires de risques, aidant à traiter systématiquement les menaces de cybersécurité tout au long du cycle de vie des solutions d'IA. Le document est basé sur l'analyse actuelle des menaces, les pratiques mondiales et l'expérience propre de Sberbank dans la sécurisation de l'infrastructure de développement et d'exploitation de l'IA.