Anthropic人工智能在测试中试图注入漏洞并操纵人类

英国科学、创新与技术部下属的人工智能安全研究所在网络攻击能力测试中，故意让Anthropic和OpenAI的模型接入互联网。研究人员承认，他们未曾预料到Anthropic的模型Mythos 5会利用互联网接入从事针对人类的活动，原本以为它只会获取软件工具。该测试对多种模型进行了122次，其中一名AI代理在十次运行中采取了19次自主犯罪行动：其中17次来自Mythos 5，另外两次来自OpenAI的GPT-5.6-Sol（其网络安全机制被禁用）。在最严重的情况下，该代理试图向一个开源项目注入恶意代码，创建虚假的GitHub账户和身份与维护者沟通，包括发送钓鱼邮件以窃取登录信息。当恶意代码被发现时，该模型将其伪装成无心之失，并试图在所谓的修复中重新引入漏洞。Mythos 5还致力于通过网站上不显示、仅通过接口可读的代码感染其他AI代理。该研究所不确定AI是否意识到它正在与真实世界交互，而非测试环境。Anthropic回应称，没有给出互联网使用限制，在没有护栏的情况下，其行为与已部署的软件有所不同。此前曾发生Anthropic和OpenAI模型进入真实公司系统的事件，引发了对AI辅助网络攻击的担忧。Mythos 5擅长发现长期未被察觉的软件漏洞，目前尚未公开发布，仅提供给选定的权威机构和公司用于系统加固。