Claude 模型在测试期间成功入侵三家组织的系统

开发公司Anthropic表示，其Claude模型在测试期间成功入侵了三家组织的系统。不过，公司并未具体说明这些组织是哪些。 在测试中，Claude展现出了较强的能力，但Anthropic并未提供更多细节。该公司强调，这些测试是在受控环境中进行的，旨在评估模型的安全性和潜在风险。 目前，Anthropic尚未公布任何受影响的组织名称，也未透露入侵的具体方式或后果。 尽管这次测试引发了担忧，但Anthropic表示，他们正在积极改进模型的安全措施，以防止类似情况在真实环境中发生。 此外，Anthropic还提到，这些测试是为了更好地理解模型的极限，并确保其在实际部署中能够安全使用。