Grupo de Segurança de IA da Nvidia, com uma Semana de Existência, Já Mostra Progresso

A Open Secure AI Alliance (OSAA), um grupo industrial liderado pela Nvidia e que agora conta com mais de 120 empresas, formou um grupo de trabalho chamado Shared AI Findings Exchange (SAFE) e já está apresentando propostas para comentário público, gerenciado pela Linux Foundation. As propostas cobrem o relato confidencial de incidentes de segurança em IA, a notificação das partes afetadas e a análise sem culpa. Os membros também estão contribuindo com tecnologia de código aberto, como o scanner de vulnerabilidades de LLM Garak, da Nvidia, a tecnologia de identidade de agente da Okta, a governança de agentes da Red Hat e os Agentes Strands e a linguagem de autorização Cedar, da Amazon. O grupo inclui grandes nomes como Adobe, BlackRock, Cisco, Intel, Microsoft e Visa, mas ausências notáveis são Anthropic, OpenAI e Google, embora a OpenAI e o Google tenham assinado a carta aberta original apoiando a IA de código aberto. O grupo opera em velocidade de IA, formando-se rapidamente em resposta a potenciais ameaças regulatórias, e visa aumentar a segurança da IA por meio da abertura.