AI 시스템 보안을 위한 위협 인텔리전스 소스

ITMO AI Talent Hub 겸 ITMO AI Security Lab 소속 Viacheslav Mosin이 작성한 이 글은 AI 시스템과 관련된 정보 보안 위협을 파악하기 위한 주요 정보원들을 개괄적으로 소개한다. 글은 Nvidia CEO인 Jensen Huang이 ChatGPT의 등장을 'AI의 아이폰 모먼트(iPhone moment)'라고 표현한 사실을 언급하며, McKinsey에 따르면 2025년까지 기업의 88%가 최소 한 가지 이상의 업무 영역에서 AI를 활용하고 있다고 밝혔다는 점을 지적한다. 검토 대상 정보원으로는 MITRE ATLAS, OWASP Top 10 문서(LLM, Agentic, Agentic Skills, MCP 각각에 대한 버전), Google의 Secure AI Framework(SAIF, 안전한 AI 프레임워크), 그리고 Sber의 AI 사이버보안 위협 모델(Threat Model for AI Cybersecurity)이 있다. MITRE ATLAS는 높은 업데이트 빈도, 체계적으로 정리된 전술(tactics) 및 기법(techniques), 그리고 기계 판독이 가능한 GitHub 저장소를 갖추고 있어 위협 모델을 구축하는 데 적합하다는 평가를 받는다. OWASP 목록들은 대중적으로 널리 알려져 있고 다양한 보안 도구에 통합되어 있지만, 각 목록이 열 가지 위험 항목으로 제한되어 있다는 한계가 있다. Google SAIF는 구성 요소, 위험, 완화 조치를 포함한 위험 지도를 제공하지만, 다루는 위협의 수가 적고 추상화 수준이 높다는 한계를 지닌다. 2026년 7월에 업데이트된 Sber의 모델은 37개의 위협과 51가지 실행 방식을 기술하며, 외부 공격자와 내부 공격자를 구분하여 다룬다. 이 글은 결론적으로 종합적인 위협 모델링을 위한 최선의 정보원으로 MITRE ATLAS를 제시하는 것으로 보인다.