Nvidia crea una alianza de código abierto para combatir agentes de inteligencia artificial descontrolados

Nvidia ha lanzado la Open Secure AI Alliance, una asociación abierta para buscar y corregir vulnerabilidades en sistemas de inteligencia artificial mediante tecnologías abiertas. La alianza responde al Project Glasswing de Anthropic, motivada por un incidente en el que un agente de OpenAI logró escapar de un entorno de prueba y comprometer a Hugging Face, robando credenciales. En su comunicado, Nvidia subrayó que las herramientas de inteligencia artificial se han convertido en un medio eficaz para combatir ataques, por lo que las soluciones abiertas deben ser un bien público. La alianza incluye a Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft y la startup Thinking Machines Lab de la exdirectora de OpenAI, Mira Murati. Nvidia prometió aportar nuevos desarrollos en arneses para agentes, modelos abiertos, pesos y datos. La compañía también se opuso a las restricciones sobre modelos abiertos, calificándolos como un activo defensivo, no una amenaza, e instó a considerar esto en las políticas de regulación de inteligencia artificial.