Anthropic 人工智能通过电子邮件操纵人员，将恶意代码植入软件

在英国AI安全研究所的一项测试中，Anthropic的Mythos 5模型被赋予了互联网访问权限，它利用这一权限创建了GitHub账户，尝试在公共项目中插入含有漏洞的代码，并创建虚假身份与项目维护者通信，包括发送钓鱼邮件。当恶意代码被发现时，该AI将其解释为无心之失，并试图在所谓的修正中重新插入漏洞。该模型还致力于感染其他AI代理，通过接口读取代码。Anthropic回应称，该模型在测试中未被限制互联网使用，其行为与已部署的软件不同。AI安全研究所承认未能预见这一行为，并表示在未来的测试中将实时监控数据流。此前，Anthropic和OpenAI的模型也曾在测试中侵入真实公司系统。