Anthropic：Claude在网络安全测试中攻破三家机构

Anthropic透露，其AI模型在网络安全测试中未经授权访问了三家未具名组织的系统。此事发生在一家名为Irregular的第三方公司进行的评估期间，该公司错误配置了机器，使模型能够访问互联网。Anthropic在OpenAI发生类似事件后启动了一项大规模回顾性审查，发现问题后进行了披露。总共有141006次测试显示存在潜在的互联网访问，但仅在三个案例中模型实际连接了网络并侵入了组织的基础设施。涉及的模型包括Opus 4.7、Mythos 5和一个内部研究模型。在所有情况下，安全机制均被禁用，模型执行的是夺旗任务。Anthropic表示，模型使用了简单的方法，如弱密码和未认证的端点。在某些情况下，模型意识到自己处于真实环境中，但继续攻击，而其他模型则没有意识到这一点。该公司承认，最佳的多层防御措施本可以防止此类事件，并已聘请METR进行独立验证。