엔비디아의 1주일 된 AI 보안 그룹, 이미 진전을 보여

엔비디아(Nvidia)가 주도하고 현재 120개 이상의 기업이 참여하고 있는 업계 단체 OSAA(Open Secure AI Alliance, 오픈 시큐어 AI 얼라이언스)가 SAFE(Shared AI Findings Exchange, 공유 AI 발견사항 교환)라는 워킹 그룹을 결성했으며, 리눅스 재단(Linux Foundation)이 관리하는 절차를 통해 이미 공개 의견 수렴을 위한 제안서를 내놓고 있다. 이 제안서는 AI 보안 사고에 대한 비공개(기밀) 보고, 영향을 받는 당사자에 대한 통보, 그리고 책임 추궁 없는 분석 방식을 다루고 있다. 회원사들은 또한 오픈소스 기술도 함께 제공하고 있다. 예를 들어 엔비디아의 대규모 언어모델(LLM) 취약점 스캐너 Garak, 옥타(Okta)의 에이전트 신원 확인 기술, 레드햇(Red Hat)의 에이전트 거버넌스 기술, 그리고 아마존(Amazon)의 Strands Agents 및 Cedar 인가(authorization) 언어 등이 있다. 이 그룹에는 어도비(Adobe), 블랙록(BlackRock), 시스코(Cisco), 인텔(Intel), 마이크로소프트(Microsoft), 비자(Visa) 등 유명 기업들이 포함되어 있지만, 앤트로픽(Anthropic), 오픈AI(OpenAI), 구글(Google)은 눈에 띄게 빠져 있다. 다만 오픈AI와 구글은 오픈소스 AI를 지지하는 최초의 공개서한에는 서명한 바 있다. 이 그룹은 잠재적인 규제 위협에 대응해 신속하게 결성되는 등 이른바 'AI 속도'로 움직이고 있으며, 개방성을 통해 AI 안전성을 높이는 것을 목표로 하고 있다.