Líderes de IA proponen directrices SAFE para la transparencia en ciberseguridad
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
La Open Secure AI Alliance, con más de 120 organizaciones, está desarrollando las directrices SAFE (Intercambio Compartido de Hallazgos de IA, por sus siglas en inglés) para convertir los incidentes de ciberseguridad de IA agéntica en protección compartida. La Fundación Linux publicó una Solicitud de Comentarios sobre SAFE, redactada por el grupo de trabajo de la alianza, que incluye a NVIDIA, Cisco, CrowdStrike, Hugging Face y Red Hat. Las directrices proponen la recopilación y el análisis confidenciales de incidentes de IA, informar a las partes afectadas, identificar fallos de control recurrentes y publicar recomendaciones basadas en evidencia para reducir el riesgo sistémico.
En la conferencia Black Hat en Las Vegas, la Alianza Abierta de IA Segura, que ya cuenta con más de 120 organizaciones, está desarrollando nuevas directrices para fortalecer la ciberseguridad de la IA agéntica. La Fundación Linux compartió una Solicitud de Comentarios sobre el Intercambio Compartido de Hallazgos de IA (SAFE, por sus siglas en inglés), un conjunto propuesto de directrices diseñadas para convertir los incidentes de ciberseguridad agéntica en protección compartida. SAFE está siendo redactado por un grupo de trabajo de la alianza, con contribuciones de NVIDIA, Cisco, CrowdStrike, Hugging Face y Red Hat. Las directrices incluyen propuestas para recopilar y analizar de manera confidencial incidentes y cuasi accidentes de IA, informar a los afectados, identificar fallas de control recurrentes y publicar recomendaciones operativas basadas en evidencia. NVIDIA contribuyó con varias herramientas y modelos de código abierto, incluidos NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer y Garak. Otros miembros hicieron contribuciones en capas de identidad, arneses, modelos y disponibilidad, incluyendo a Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain y Veeam. Amazon y Visa se unieron a la alianza; Amazon contribuyó con Strands Agents y Cedar, mientras que Visa contribuyó con el arnés agéntico de vulnerabilidades de Visa. CrowdStrike ajustó NVIDIA Nemotron Nano para la defensa cibernética.
Fuente: NVIDIA blog —
original