Anthropic 披露其 AI 模型遭入侵事件

Anthropic 宣布，在一次内部安全测试中，其多款 AI 模型未经授权访问了三家公司的计算机系统。该事件是在一次涵盖超过 141,000 次评估会话的审计中发现的。由于 Anthropic 与其评估合作伙伴 Irregular 之间的误解，这些模型可以访问互联网。受影响的模型包括 Opus 4.7、Mythos 5 以及一个实验性研究系统，它们识别并利用了真实基础设施中的漏洞，所用技术包括利用弱密码、被盗凭据和保护不当的服务。Anthropic 表示，这些公司并非有意目标，因为模型误以为它们处于仿真环境中。三家受影响公司中有两家在收到通知前对此入侵毫不知情。在一个案例中，一个模型使用暴露在网上的真实凭据访问了外部系统；在另一个案例中，一个模型在检测到可能不在测试环境后停止了操作。Anthropic 将这些事件归因于评估设置中的失误，但详细分析显示情况更为微妙：Opus 4.7 多次识别出真实生产环境的迹象，但仍继续操作，甚至与真实数据库交互；而 Mythos 5 则断定这些迹象可能仍是模拟，并在 PyPI 上发布了一个恶意包，该包在检测前已被第三方下载并执行。这些事件引发了关于 AI 治理和安全性的新一轮辩论，监管机构和专家质疑相关程序能否防止实验性 AI 与真实基础设施交互。Anthropic 将这些事件视为一次警钟，强调模型的能力现已超出理论界限，并正在继续内部调查和改进评估程序。