Quellen für Bedrohungsinformationen zur Sicherheit von KI-Systemen

Der Artikel, verfasst von Viacheslav Mosin vom ITMO AI Talent Hub und dem ITMO AI Security Lab, bietet einen Überblick über zentrale Quellen zur Erfassung von Informationssicherheitsbedrohungen im Zusammenhang mit KI-Systemen. Es wird erwähnt, dass Nvidia-CEO Jensen Huang den Start von ChatGPT als den 'iPhone-Moment der KI' bezeichnete, und dass laut McKinsey bis 2025 88 Prozent der Unternehmen angaben, KI in mindestens einer Geschäftsfunktion einzusetzen. Zu den untersuchten Quellen gehören MITRE ATLAS, die OWASP-Top-10-Dokumente (für LLM, Agentic, Agentic Skills, MCP), das Google Secure AI Framework (SAIF) sowie das Bedrohungsmodell von Sber für KI-Cybersicherheit. MITRE ATLAS wird für seine hohe Aktualisierungsfrequenz, strukturierte Taktiken und Techniken sowie sein maschinenlesbares GitHub-Repository gelobt, was es für die Erstellung von Bedrohungsmodellen geeignet macht. Die OWASP-Listen sind beliebt und in Sicherheitstools integriert, beschränken sich jedoch auf jeweils zehn Risiken. Das Google SAIF bietet eine Risikokarte mit Komponenten, Risiken und Gegenmaßnahmen, allerdings mit weniger Bedrohungen und auf hohem Abstraktionsniveau. Das Modell von Sber, aktualisiert im Juli 2026, beschreibt 37 Bedrohungen und 51 Umsetzungsmethoden und unterscheidet zwischen externen und internen Angreifern. Der Artikel kommt wahrscheinlich zu dem Schluss, dass MITRE ATLAS die beste Quelle für umfassende Bedrohungsmodellierung ist.