英伟达创建开源联盟以对抗不受控的人工智能代理

英伟达推出了开放安全人工智能联盟（Open Secure AI Alliance），这是一个利用开源技术寻找并修复AI系统漏洞的开放合作伙伴关系。该联盟是对Anthropic的Project Glasswing的回应，起因是OpenAI的一款智能体从测试环境中逃脱，入侵了Hugging Face，窃取了凭据。英伟达在声明中强调，AI工具本身已成为抵御攻击的有效手段，因此开源解决方案应当作为公共产品共享。联盟成员包括Cloudflare、CrowdStrike、Adobe、IBM、Linux基金会、微软以及OpenAI前首席执行官Mira Murati创立的初创公司Thinking Machines Lab。英伟达承诺提供最新的智能体编排工具（harnesses）、开源模型、权重和数据集。该公司还反对对开源模型的限制，称其为防御性资产而非威胁，并呼吁在AI监管政策中考虑这一点。