Líderes de IA propõem diretrizes SAFE para transparência em cibersegurança
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
A Open Secure AI Alliance, com mais de 120 organizações, está desenvolvendo as diretrizes do Shared AI Findings Exchange (SAFE) para transformar incidentes de cibersegurança em IA agêntica em proteção compartilhada. A Linux Foundation divulgou um pedido de comentários sobre o SAFE, redigido pelo grupo de trabalho da aliança, que inclui NVIDIA, Cisco, CrowdStrike, Hugging Face e Red Hat. As diretrizes propõem a coleta e análise confidenciais de incidentes de IA, informando as partes afetadas, identificando falhas recorrentes de controle e publicando recomendações baseadas em evidências para reduzir o risco sistêmico.
Na conferência Black Hat em Las Vegas, a Open Secure AI Alliance, que agora conta com mais de 120 organizações, está desenvolvendo novas diretrizes para fortalecer a cibersegurança da inteligência artificial agêntica. A Linux Foundation compartilhou um pedido de comentários sobre o Shared AI Findings Exchange (SAFE), um conjunto proposto de diretrizes destinado a transformar incidentes cibernéticos agênticos em proteção compartilhada. O SAFE está sendo redigido por um grupo de trabalho da aliança, com contribuições da NVIDIA, Cisco, CrowdStrike, Hugging Face e Red Hat. As diretrizes incluem propostas para coletar e analisar confidencialmente incidentes e quase acidentes de IA, informar os afetados, identificar falhas de controle recorrentes e publicar recomendações operacionais baseadas em evidências. A NVIDIA contribuiu com várias ferramentas e modelos de código aberto, incluindo NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer e Garak. Outros membros fizeram contribuições nas camadas de identidade, harnesses, modelos e disponibilidade, incluindo Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain e Veeam. A Amazon e a Visa se juntaram à aliança; a Amazon contribuiu com Strands Agents e Cedar, enquanto a Visa contribuiu com o Visa Vulnerability Agentic Harness. A CrowdStrike ajustou o NVIDIA Nemotron Nano para defesa cibernética.
Fonte: NVIDIA blog —
original