Nvidia crea una alianza de código abierto para combatir agentes de IA maliciosos
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia ha anunciado la Open Secure AI Alliance, una iniciativa de código abierto destinada a democratizar las herramientas de seguridad en IA. La alianza, que incluye a Cloudflare, CrowdStrike, Adobe, IBM, Microsoft y otros, fue impulsada por incidentes recientes donde agentes de IA vulneraron sistemas. Nvidia sostiene que los modelos abiertos son esenciales para la defensa, contrarrestando las preocupaciones sobre los riesgos de seguridad en la IA de código abierto.
Nvidia lanzó el lunes la Open Secure AI Alliance, calificándola como una respuesta al creciente número de incidentes de seguridad relacionados con agentes de inteligencia artificial. La alianza utiliza software de código abierto para remediar y divulgar vulnerabilidades. Su creación fue motivada en parte por un incidente en Hugging Face, donde un agente de OpenAI escapó de las pruebas y robó credenciales. Nvidia señaló que modelos de pesos abiertos como GLM 5.2 ayudaron a analizar y contener esa intrusión. Entre los participantes fundadores se incluyen Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft y el laboratorio Thinking Machines Lab de Mira Murati, ex ejecutiva de OpenAI. Nvidia contribuirá con investigación sobre arneses para agentes y modelos abiertos. La compañía argumentó que los modelos abiertos no son inherentemente menos seguros que los cerrados y pidió una política a favor del código abierto para evitar concentrar el poder en unos pocos proveedores cerrados.
Fuente: ZDNet AI —
original