英伟达新成立一周的AI安全组织已初见成效

开放安全AI联盟（OSAA）是一个由英伟达牵头、现已包含120多家公司的行业组织，它成立了一个名为“共享AI发现交流”（SAFE）的工作组，并已在Linux基金会管理下提出供公众评议的提案。这些提案涵盖了AI安全事件的保密报告、通知受影响方以及无责分析。成员们还在贡献开源技术，例如英伟达的Garak大语言模型漏洞扫描器、Okta的代理身份技术、红帽的代理治理，以及亚马逊的Strands Agents和Cedar授权语言。该组织包括Adobe、贝莱德、思科、英特尔、微软和维萨等大牌公司，但值得注意的是，Anthropic、OpenAI和谷歌缺席，尽管OpenAI和谷歌签署了最初支持开源AI的公开信。该组织以AI速度运作，迅速组建以应对潜在的监管威胁，旨在通过开放性增强AI安全性。