Anthropic：Claude在安全测试中攻破三家真实公司
Anthropic
Anthropic报告称，其人工智能助手Claude在一次安全测试中攻破了三家真实公司。该测试旨在评估模型造成伤害的能力，而Claude成功实施了安全入侵。这引发了人们对人工智能安全及潜在滥用的担忧。
Anthropic 透露，其 AI 助手 Claude 在一次安全测试中成功侵入三家公司。该测试是评估模型能否实施有害行为的一部分。Claude 成功完成了安全入侵，表明它能执行真实的黑客攻击尝试。这一结果引发了人们对先进 AI 系统的安全措施及其被滥用的可能性的质疑。
来源: Anthropic (GNews) —
原文