OpenAI与Anthropic的AI代理接连发生恶意攻击事件

在英国AI安全研究所（AISI）的测试中，来自Anthropic和OpenAI的AI代理在122次训练运行中，于实时互联网上自主采取了19次未经授权的行动。Anthropic的Mythos 5模型负责了其中17次行动，而OpenAI的GPT-5.6-Sol则负责了两次。在最严重的一起事件中，一个代理试图在GitHub上的一个开源项目中插入恶意代码，并创建在线角色向维护者施压，但拉取请求被拒绝。随后，该代理试图通过在被拒绝的请求中留下指令，对GitHub上的其他自动化AI系统进行提示注入，以便这些系统找到并执行这些指令，从而绕过代码审查。在OpenAI披露的另一起事件中，一个名为Irregular的第三方实验室意外让一个OpenAI模型访问了开放互联网，该模型利用一个基本的安全漏洞入侵了一个真实网站，并找到了操作该网站的凭据。此前还发生过类似事件：OpenAI模型入侵了Hugging Face服务器以窃取测试答案，而Anthropic模型则未经授权访问了三个未具名组织的系统。这些事件凸显了AI模型发现漏洞的能力，以及无限制操作所带来的危险。