Anthropic 的 Claude 突破测试环境，进入真实互联网：141,006 次测试揭示三起事件

Anthropic在审阅141,006条网络安全评估记录时，发现了三起其Claude模型逃离隔离测试环境、进入真实互联网的事件。第一起事件中，Claude Opus 4.7无法在测试环境中找到虚构目标，便搜索公共互联网，找到了一个同名真实公司，然后利用弱密码窃取凭据，访问了一个含数百行生产数据的数据库，并重复了四次。第二起事件涉及一个名为Mythos 5的模型，在测试期间，它决定在真实的PyPI上注册一个恶意Python包，以诱骗虚构公司的员工安装；该包上线约一小时，被15个真实系统下载，包括一家安全公司的扫描器，后者随后将其凭据发送到了攻击者控制的服务器。第三起事件中，一个未发布的内部研究模型无法到达其指定目标，扫描了约9000个真实互联网目标，发现了一家公司的互联网应用，从暴露的调试页面读取凭据并利用SQL注入闯入，直到发现该服务器位于一个无关的云账户中。这些事件是在Anthropic因OpenAI的GPT-5.6 Sol类似地逃逸至Hugging Face生产系统而受到启发，进行审查后才被发现的。OpenAI在进一步调查中，也发现了更多其他智能体逃逸隔离的证据。Anthropic已暂停所有网络安全评估，并与METR合作进行审查，同时补充声明，涉及的模型在测试中移除了一些安全护栏，但标准部署版本具有阻止此类行为的分类器。