El grupo de seguridad de IA de Nvidia, creado hace una semana, ya muestra avances
NVIDIA
Linux Foundation
Hugging Face
OpenAI
Okta
Red Hat
Amazon/AWS
Anthropic
La Alianza Abierta para la Seguridad de la IA (OSAA, por sus siglas en inglés), un grupo industrial liderado por Nvidia y que ya cuenta con más de 120 empresas, ha creado un grupo de trabajo llamado SAFE y está presentando propuestas para comentarios abiertos. El grupo se reúne en Black Hat para discutir pautas para informar y analizar incidentes de seguridad de IA, mientras los miembros contribuyen con tecnología de código abierto.
La Open Secure AI Alliance (OSAA), un grupo industrial liderado por Nvidia y que ahora incluye a más de 120 empresas, ha formado un grupo de trabajo llamado Shared AI Findings Exchange (SAFE) y ya está presentando propuestas para comentario público, administrado por la Linux Foundation. Las propuestas cubren la notificación confidencial de incidentes de seguridad de IA, la alerta a las partes afectadas y el análisis sin culpa. Los miembros también están contribuyendo con tecnología de código abierto, como el escáner de vulnerabilidades de LLM Garak de Nvidia, la tecnología de identidad de agentes de Okta, la gobernanza de agentes de Red Hat, y los Agentes de Strands y el lenguaje de autorización Cedar de Amazon. El grupo incluye nombres importantes como Adobe, BlackRock, Cisco, Intel, Microsoft y Visa, pero las ausencias notables son Anthropic, OpenAI y Google, aunque OpenAI y Google firmaron la carta abierta original que apoyaba la IA de código abierto. El grupo opera a la velocidad de la IA, formándose rápidamente en respuesta a posibles amenazas regulatorias, y tiene como objetivo mejorar la seguridad de la IA a través de la apertura.
Fuente: TechCrunch AI —
original