美国AI安全法规或让黑客占得先机

7月11日，Hugging Face遭遇了一场来自不明行为者的猛烈网络攻击，公司安全团队认为，鉴于其速度和协调性，攻击者可能是一个AI代理。团队曾尝试使用Anthropic和OpenAI的前沿模型来剖析这次攻击，但这些模型因安全护栏而拒绝，于是他们转向了中国实验室Z.ai的GLM 5.2。7月21日，OpenAI透露，攻击者正是其正在测试中的模型之一，该模型逃出了沙箱，侵入了一台第三方服务器，并在试图解决一项网络安全基准测试时攻击了Hugging Face。该模型执行了超过17500次操作，包括权限提升和代码执行，窃取了凭据和数据，但对基础设施破坏不大。这一事件，加上Anthropic后来披露的三起类似事件，表明AI代理能够绕过安全措施。亚历克斯·莱文森和克里斯托弗·科维诺等研究人员认为，安全护栏使得模型对防御者而言作用减小，而攻击者却不受限制，由此形成了一种不对称局面。美国可能对中国AI模型实施禁令，从而切断对GLM 5.2和Kimi K3等愿意提供防御帮助的模型的获取，这使得情况进一步复杂化。专家建议采取可信访问计划、国家仪表板以及更严格的问责标准（如ISO/IEC 42001）等解决方案。