Источники данных об угрозах для безопасности систем ИИ
В статье рассматриваются основные источники сбора информации об угрозах информационной безопасности, связанных с системами ИИ, включая MITRE ATLAS, OWASP Top 10 (для LLM, агентных систем, агентных навыков и MCP), Google Secure AI Framework (SAIF) и модель угроз кибербезопасности ИИ от Сбера. Освещаются их структуры, частота обновления, преимущества и недостатки, а в заключении приводится лучший источник для построения модели угроз.
Статья, написанная Вячеславом Мосиным из AI Talent Hub и Лаборатории безопасности искусственного интеллекта ИТМО, представляет обзор ключевых источников для сбора информации об угрозах информационной безопасности, связанных с системами на основе искусственного интеллекта. В ней упоминается, что генеральный директор компании Nvidia Дженсен Хуанг назвал запуск ChatGPT «моментом iPhone для ИИ», а
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал