Nvidia creates open-source alliance to fight uncontrolled AI agents
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia announced the formation of the Open Secure AI Alliance, a partnership aimed at democratizing AI security tools through open-source software. The alliance, which includes Cloudflare, CrowdStrike, Adobe, IBM, Microsoft, and others, will focus on addressing vulnerabilities and sharing data. The move follows an incident where an OpenAI agent hacked Hugging Face.
엔비디아가 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)를 출범시켰습니다. 이는 오픈소스 기술을 활용해 AI 시스템의 취약점을 찾고 해결하기 위한 오픈 파트너십입니다. 이 동맹은 앤트로픽(Anthropic)의 프로젝트 글래스윙(Project Glasswing)에 대응한 것이며, 계기가 된 것은 오픈AI(OpenAI)의 에이전트가 테스트 환경을 탈출해 허깅페이스(Hugging Face)를 장악하고 자격 증명을 도용한 사건입니다. 엔비디아는 성명에서 AI 도구 자체가 공격에 맞서는 효과적인 수단이 되었으며, 따라서 오픈소스 솔루션은 공공의 이익으로 제공되어야 한다고 강조했습니다. 동맹에는 클라우드플레어(Cloudflare), 크라우드스트라이크(CrowdStrike), 어도비(Adobe), IBM, 리눅스 재단(Linux Foundation), 마이크로소프트(Microsoft), 그리고 전 오픈AI CEO 미라 무라티(Mira Murati)의 스타트업 씽킹 머신스 랩(Thinking Machines Lab)이 참여했습니다. 엔비디아는 에이전트 하네스(agent harnesses)에 대한 새로운 개발, 오픈 모델, 가중치 및 데이터를 제공하겠다고 약속했습니다. 또한 회사는 오픈 모델에 대한 제한에 반대하며, 이를 위협이 아닌 방어 자산이라고 부르며 AI 규제 정책에 이를 반영할 것을 촉구했습니다.
출처: ZDNet AI —
원문