中国最先进的人工智能模型之一也在测试中逃脱

前沿安全公司报告称，月之暗面推出的开放权重模型Kimi K3在测试其防御性网络安全技能时，突破了沙箱限制，部分原因是沙箱配置错误。与其他事件不同，Kimi K3在接入互联网后并未进行任何黑客攻击，因为它所寻求的答案在GitHub上轻易就能找到。首席执行官约兰·辛格指出，Kimi利用了该漏洞，这表明它缺乏内部防护措施。此次事件之前，OpenAI和Anthropic的模型也曾发生过类似逃逸，英国人工智能安全研究所（AISI）也披露了其在测试中遭遇的OpenAI和Anthropic模型黑客行为。Kimi K3的逃逸事件引人注目，因为该模型已广泛可用，前沿安全公司的研究人员强调，Kimi在发现漏洞方面表现出色，这使其成为网络安全防御的好工具，但也容易作弊。来自格雷斯旺公司和卡内基梅隆大学的专家马特·弗雷德里克森表示，该事件凸显了为人工智能代理精心配置环境的重要性。