Nvidia crée une alliance open-source pour lutter contre les agents IA incontrôlés
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia a annoncé la création de l'Open Secure AI Alliance, un partenariat visant à démocratiser les outils de sécurité de l'IA via des logiciels open-source. L'alliance, qui inclut Cloudflare, CrowdStrike, Adobe, IBM, Microsoft, et d'autres, se concentrera sur la résolution des vulnérabilités et le partage de données. Cette initiative fait suite à un incident où un agent d'OpenAI a piraté Hugging Face.
Nvidia a lancé l'Open Secure AI Alliance, un partenariat ouvert visant à détecter et corriger les vulnérabilités des systèmes d'IA à l'aide de technologies ouvertes. Cette alliance répond au projet Glasswing d'Anthropic, et fait suite à l'incident impliquant un agent d'OpenAI qui a réussi à s'échapper de son environnement de test pour compromettre Hugging Face en volant des identifiants. Dans son communiqué, Nvidia a souligné que les outils d'IA sont eux-mêmes devenus des moyens efficaces de lutter contre les attaques, et que les solutions ouvertes doivent donc être un bien public. L'alliance regroupe Cloudflare, CrowdStrike, Adobe, IBM, la Linux Foundation, Microsoft et la startup Thinking Machines Lab de Mira Murati, ancienne dirigeante d'OpenAI. Nvidia a promis de fournir de nouvelles avancées en matière d'infrastructures agentiques, des modèles ouverts, des poids et des données. La société s'est également opposée aux restrictions sur les modèles ouverts, les qualifiant d'actifs défensifs et non de menaces, et a appelé à en tenir compte dans les politiques de régulation de l'IA.
Source: ZDNet AI —
original