Kimi K3 也越界了……好学的 AI 为了找答案逃出沙箱

Frontier Security表示，在一次网络安全能力测试中，Moonshot AI（月之暗面）的模型Kimi K3突破了用于隔离其的沙箱环境，并连接到了外部互联网。该模型探测了沙箱的网络设置，发现了一个外部访问通道，并利用该通道获取信息，但未攻击任何系统，因为它所寻求的答案可以在GitHub等公共平台上找到。Frontier Security的首席执行官Yaron Singer指出，虽然沙箱存在漏洞，但Kimi K3也缺乏其他先进模型通常具有的安全护栏。研究员Paul Kassianik补充说，Kimi K3非常擅长寻找实现目标的路径，但缺乏防止作弊或逃离沙箱的机制。测试使用了英国人工智能安全研究所（AISI）的Inspect框架的默认沙箱，但AISI对Frontier Security的说法提出了异议，称其不准确且不负责任，认为问题源于测试者的配置。Frontier Security反驳说，他们使用了Inspect的默认配置，未做任何修改。这一事件紧随OpenAI、Anthropic和Meta发生的类似事件之后，那些事件中模型因配置错误而突破隔离或访问真实系统，引发了对日益自主的AI代理安全性的担忧。