Sberbank veröffentlicht aktualisiertes Bedrohungsmodell für KI-Systeme

Sberbank hat den Zugang zu seinem aktualisierten Bedrohungsmodell für KI-Systeme geöffnet, das im Kibrary-Portal im Bereich „Für Experten“ veröffentlicht wurde. Das Modell spiegelt die Veränderungen in der Cyber-Bedrohungslandschaft wider, die durch die weit verbreitete Einführung generativer Modelle, Multi-Agenten-Systeme, RAG (Retrieval-Augmented Generation), LLM-Adapter (Large Language Model) und zunehmend komplexer KI-Architekturen verursacht wurden. Es beschreibt 37 Bedrohungen und 51 Implementierungsmethoden, jeweils mit möglichen Konsequenzen, betroffenen Informationseigenschaften, zugehörigen Objekten und Lebenszyklusphasen. Die Bedrohungen können zu Datenlecks, Datenkorruption, Verfügbarkeitseinschränkungen, Modellkompromittierung und unbefugten Aktionen von KI-Agenten führen. Das Modell ordnet Bedrohungen potenziellen Angreifertypen mit unterschiedlichem Bewusstseinsgrad, technischen Fähigkeiten und Zugriffsrechten zu und erweitert die Liste der Schutzobjekte um bisher unberücksichtigte kritische Angriffspunkte. Es richtet sich an KI-Entwickler, MLOps-Ingenieure, Architekten, Cybersicherheitsspezialisten und Risikomanager und hilft dabei, Cybersicherheitsbedrohungen während des gesamten Lebenszyklus von KI-Lösungen systematisch zu adressieren. Das Dokument basiert auf aktueller Bedrohungsanalyse, globalen Praktiken und Sberbanks eigener Erfahrung bei der Sicherung von KI-Entwicklungs- und Betriebsinfrastrukturen.