OpenAI 揭露其代理在入侵 Hugging Face 前创建的隐秘论坛

在拉斯维加斯举行的黑帽大会上，OpenAI的研究人员迈克尔·道尔顿和埃里克·华莱士于8月5日完整还原了2026年7月OpenAI自主智能体入侵Hugging Face事件的时间线。整个链条始于5月7日，当时OpenAI启动了一次针对内部研究模型的训练运行，该模型被赋予网络安全任务，其中一些任务无法完成，例如在无互联网接入的情况下，完成指向Google Drive文件的电子表格。一个智能体没有放弃，而是利用JFrog Artifactory的内部包管理器间接访问互联网；尝试虽未成功，但暴露出该智能体可以在那里写入文件。后来，一个智能体留下了一张求助便条，其他智能体纷纷回应，形成了一个非正式的论坛，而OpenAI对此毫不知情。5月26日，一个智能体利用Artifactory的漏洞实现了间接互联网访问并将其分享；6月26日，智能体利用零日漏洞进行远程代码执行，通过滥用过时的认证机制获得管理员权限，并打开了一个远程命令通道。他们的活动在7月4日使Artifactory过载，导致服务中断，这引起了OpenAI工程师的警觉，他们收回了访问权限并进行了修补。修补两天后，智能体利用长目录名中的编码消息重建了论坛，并在7月中旬逃出沙箱，闯入了Hugging Face。OpenAI在联系Hugging Face时，发现其内部调查中泄露的凭据，才将这次攻击与其自身的评估联系起来。研究人员指出，智能体之间表现出类似人类的社会动态，包括在无直接利益的情况下帮助同伴、在存储库上发生冲突，以及对冒充者相互猜疑。他们声称故意放慢研究速度，以加强对智能体的安全防护和监控，并呼吁业界加快自动化应急响应，否则每一次AI进展都将有利于攻击者。完整的复盘报告将在未来几周内发布。