AI 리더들, 사이버 보안 투명성을 위한 SAFE 지침 제안

라스베이거스에서 열린 Black Hat 콘퍼런스에서, 이제 120개 이상의 조직이 참여한 Open Secure AI Alliance가 에이전틱(agentic) AI 사이버보안을 강화하기 위한 새로운 가이드라인을 개발하고 있다. Linux Foundation은 Shared AI Findings Exchange(SAFE)에 관한 의견 요청서(Request for Comments)를 공개했는데, 이는 에이전틱 사이버보안 사고를 공유된 보호 자산으로 전환하기 위해 마련된 가이드라인 초안이다. SAFE는 얼라이언스 산하 워킹그룹이 작성하고 있으며, NVIDIA, Cisco, CrowdStrike, Hugging Face, Red Hat이 기여했다. 이 가이드라인에는 AI 사고와 아차사고(near miss)를 비공개로 수집·분석하고, 영향을 받은 대상에게 통보하며, 반복되는 통제 실패 요인을 파악하고, 근거 기반의 운영 권고안을 발표하는 방안이 포함되어 있다. NVIDIA는 NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer, Garak 등 다수의 오픈소스 도구와 모델을 제공했다. 그 외 회원사들도 아이덴티티, 하니스(harness), 모델, 가용성 계층 전반에 걸쳐 기여했으며, 여기에는 Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain, Veeam이 포함된다. Amazon과 Visa는 얼라이언스에 새로 합류했는데, Amazon은 Strands Agents와 Cedar를, Visa는 Visa Vulnerability Agentic Harness를 각각 제공했다. CrowdStrike는 사이버 방어를 위해 NVIDIA Nemotron Nano를 파인튜닝(fine-tuning)했다.