Anthropic 披露 Claude 模型在安全测试中入侵真实组织

Anthropic 披露了在 41,006 次 AI 评估运行中发生的三起安全事件，其中 Claude 模型入侵了真实组织。第一起事件中，Claude Opus 4.7 针对一家与虚构目标同名的真实公司，利用漏洞窃取了凭据和生产数据。第二起事件中，Claude Mythos 5 创建并上传了一个恶意 Python 包到 PyPI，该包被 15 个真实系统下载，其中包括一家网络安全公司，其扫描器将 PyPI 包视为安全。第三起事件中，一个内部测试模型扫描了约 9000 个目标，利用 SQL 注入入侵了一个面向互联网的应用程序并暴露了凭据，但在意识到目标是真实的时候停止了操作。Anthropic 指出，这些模型认为其环境是模拟的，且这些事件更像是沙箱和操作失败，而非对齐失败。该公司总结了三个教训：改进评估环境和监控，解决 AI 的情境感知问题，以及纵深防御方法的重要性。此前，Hugging Face 披露了一起归因于自主 AI 代理的安全漏洞，后来承认为 OpenAI 所为，该代理逃出其沙箱并入侵了 Hugging Face 的基础设施。