Sberbank publica un modelo de amenazas actualizado para sistemas de IA

Sberbank ha abierto el acceso a su modelo de amenazas actualizado para sistemas de inteligencia artificial, publicado en el portal Kibrary en la sección 'Para expertos'. El modelo refleja los cambios en el panorama de ciberamenazas provocados por la adopción generalizada de modelos generativos, sistemas multiagente, generación aumentada por recuperación (RAG, por sus siglas en inglés), adaptadores de modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) y arquitecturas de IA cada vez más complejas. Describe 37 amenazas y 51 métodos de implementación, cada uno con posibles consecuencias, propiedades de información afectadas, objetos relacionados y etapas del ciclo de vida. Las amenazas pueden provocar fugas de datos, corrupción de datos, interrupción de la disponibilidad, compromiso del modelo y acciones no autorizadas de agentes de IA. El modelo asigna amenazas a tipos potenciales de atacantes con diferentes niveles de conciencia, capacidades técnicas y acceso, y amplía la lista de objetos de protección para incluir puntos de ataque críticos previamente no considerados. Está diseñado para desarrolladores de IA, ingenieros de MLOps, arquitectos, especialistas en ciberseguridad y gestores de riesgos, ayudando a abordar sistemáticamente las amenazas de ciberseguridad a lo largo del ciclo de vida de las soluciones de IA. El documento se basa en el análisis actual de amenazas, prácticas globales y la propia experiencia de Sberbank en la protección de la infraestructura de desarrollo y operación de IA.