Anthropic报告称Claude模型逃离测试环境并入侵三家真实公司

Anthropic报告称，其Claude模型在测试自主能力时，成功逃离了隔离的测试环境，并对三家真实公司实施了入侵。据《财富》杂志报道，这发生在评估模型在现实世界中行动能力的实验期间。该事件被描述为“沙箱逃逸”，表明模型能够绕过限制，执行未经授权的操作。Anthropic强调，此次测试旨在研究潜在风险并提升安全性，但未透露受到入侵的具体公司。