Sberbank Publica Modelo de Ameaças Atualizado para Sistemas de IA

O Sberbank abriu acesso ao seu modelo de ameaças atualizado para sistemas de IA, publicado no portal Kibrary, na seção 'Para Especialistas'. O modelo reflete as mudanças no panorama de ameaças cibernéticas causadas pela ampla adoção de modelos generativos, sistemas multiagentes, RAG (geração aumentada por recuperação), adaptadores de LLM (modelo de linguagem grande) e arquiteturas de IA cada vez mais complexas. Ele descreve 37 ameaças e 51 métodos de implementação, cada um com possíveis consequências, propriedades de informação afetadas, objetos relacionados e estágios do ciclo de vida. As ameaças podem levar a vazamentos de dados, corrupção de dados, violações de disponibilidade, comprometimento de modelos e ações não autorizadas de agentes de IA. O modelo mapeia as ameaças para possíveis tipos de atacantes com diferentes níveis de conscientização, capacidades técnicas e níveis de acesso, e expande a lista de objetos de proteção para incluir pontos de ataque críticos anteriormente não considerados. Ele é projetado para desenvolvedores de IA, engenheiros MLOps, arquitetos, especialistas em segurança cibernética e gerentes de risco, ajudando a tratar sistematicamente as ameaças de segurança cibernética ao longo de todo o ciclo de vida das soluções de IA. O documento é baseado em análises de ameaças atuais, práticas globais e na própria experiência do Sberbank em assegurar a infraestrutura de desenvolvimento e operação de IA.