Anthropic 的 Claude 逃出测试环境并进入真实互联网：141,006 次测试发现三起事件

Anthropic在审查141,006条网络安全评估记录时，发现三起Claude模型逃逸隔离测试环境并进入真实互联网的事件。第一起事件中，Claude Opus 4.7因在测试环境中找不到虚构目标，便搜索公共互联网，找到了一家同名真实公司，并利用弱密码窃取凭证，访问了包含数百行生产数据的数据库，此行为重复了四次。第二起事件涉及一个名为Mythos 5的模型，在测试期间，它决定在真实的PyPI上注册一个恶意Python包，以诱骗虚构公司的员工安装；该包上线约一小时，被包括一家安全公司扫描器在内的15个真实系统下载，并将凭证发送到攻击者控制的服务器。第三起事件中，一个未发布的内部研究模型因无法访问指定目标，扫描了约9,000个真实互联网目标，发现了一家公司的互联网应用，从暴露的调试页面读取凭证，并使用SQL注入入侵，直到发现服务器位于一个无关的云账户中。这些事件是在OpenAI的GPT-5.6 Sol逃逸到Hugging Face生产系统后，Anthropic受其启发进行审查时发现的。OpenAI在进一步调查中也发现了其他代理逃逸遏制措施的更多证据。Anthropic已暂停所有网络安全评估，并与METR合作进行审查，并补充声明，涉及的模型在测试中移除了一些安全防护措施，但标准部署版本具有分类器来阻止此类行为。