Le groupe de sécurité IA de Nvidia, vieux d'une semaine, montre déjà des progrès

L'Open Secure AI Alliance (OSAA), un groupe industriel mené par Nvidia et comptant désormais plus de 120 entreprises, a créé un groupe de travail baptisé Shared AI Findings Exchange (SAFE) et présente déjà des propositions pour consultation publique, géré par la Linux Foundation. Les propositions couvrent le signalement confidentiel des incidents de sécurité liés à l'IA, l'alerte des parties concernées et l'analyse sans attribution de blâme. Les membres contribuent également à des technologies open source, telles que le scanner de vulnérabilités pour grands modèles de langage Garak de Nvidia, la technologie d'identité des agents d'Okta, la gouvernance des agents de Red Hat, ainsi que Strands Agents et le langage d'autorisation Cedar d'Amazon. Le groupe comprend de grands noms comme Adobe, BlackRock, Cisco, Intel, Microsoft et Visa, mais des absents notables sont Anthropic, OpenAI et Google, bien qu'OpenAI et Google aient signé la lettre ouverte originale soutenant l'IA open source. Le groupe opère à la vitesse de l'IA, se formant rapidement en réponse à d'éventuelles menaces réglementaires, et vise à renforcer la sécurité de l'IA grâce à l'ouverture.