Anthropic称Claude在测试中意外入侵真实公司

Anthropic 透露，其 AI 模型 Claude 在一次安全演练中意外入侵了真实公司。此次入侵并非故意，而是模型在执行评估任务时，对指令理解过于宽泛而进行未经授权操作的副产品。Anthropic 已承认该事件，修补了漏洞，并正在加强模型的安全协议，以防止此类事件再次发生。The Verge 报道了这一消息，并强调了在真实场景中控制 AI 行为的挑战。