Threat Intelligence-bronnen voor de beveiliging van AI-systemen
NVIDIA
MITRE
OWASP
Google/DeepMind
Сбер
Het artikel bespreekt de belangrijkste bronnen voor het verzamelen van informatiebeveiligingsbedreigingen met betrekking tot AI-systemen, waaronder MITRE ATLAS, OWASP Top 10 (voor LLM, Agentic, Agentic Skills, MCP), Google Secure AI Framework (SAIF) en Sber's Threat Model voor AI-cyberbeveiliging. Het belicht hun structuren, updatefrequenties, voordelen en zwakke punten, en concludeert met de beste bron voor het opstellen van een bedreigingsmodel.
Het artikel, geschreven door Viacheslav Mosin van ITMO's AI Talent Hub en ITMO AI Security Lab, geeft een overzicht van belangrijke bronnen voor het verzamelen van bedreigingen voor de informatiebeveiliging die verband houden met AI-systemen. Het vermeldt dat Nvidia-CEO Jensen Huang de lancering van ChatGPT het 'iPhone-moment van AI' noemde, en merkt op dat tegen 2025, 88% van de bedrijven aangaf AI te gebruiken in ten minste één bedrijfsfunctie, volgens McKinsey. De besproken bronnen omvatten MITRE ATLAS, OWASP Top 10-documenten (voor LLM, Agentic, Agentic Skills, MCP), Google Secure AI Framework (SAIF) en Sber's Threat Model for AI Cybersecurity. MITRE ATLAS wordt geprezen om zijn hoge updatefrequentie, gestructureerde tactieken en technieken, en machine-leesbare GitHub-repository, waardoor het geschikt is voor het opbouwen van dreigingsmodellen. OWASP-lijsten zijn populair en geïntegreerd in beveiligingstools, maar beperkt tot tien risico's per stuk. Google SAIF biedt een risicokaart met componenten, risico's en mitigerende maatregelen, maar met minder bedreigingen en abstractie op hoog niveau. Sber's model, bijgewerkt in juli 2026, beschrijft 37 bedreigingen en 51 implementatiemethoden, waarbij onderscheid wordt gemaakt tussen externe en interne aanvallers. Het artikel concludeert waarschijnlijk dat MITRE ATLAS de beste bron is voor een uitgebreid dreigingsmodel.
Bron: Habr — хаб ИИ —
origineel