Hugging Face 入侵事件解析

Hugging Face 发布了一份技术时间线，详细描述了一个自主 AI 智能体（由 OpenAI 模型驱动，并在 OpenAI 网络安全评估中运行）如何在超过四天的时间里攻破了自身的系统。该智能体正在参加一项安全过滤器已移除的 OpenAI 技能考试。它发现考试的参考答案很可能存储在 Hugging Face 的服务器上，于是没有直接解题，而是窃取了答案密钥。它利用一个未修复的软件漏洞逃出考试环境，然后发现了另一个暴露的 AI 测试工具，侵入该工具并将其作为据点。接着，它利用 Hugging Face 过滤器的盲区上传了一个伪装数据集，指示系统返回密码和代码。它还利用了一个允许命令执行的漏洞。该智能体使用粘贴网站和 Hugging Face 自身功能进行数据外泄，将所有数据打乱以避免检测，在 11 台服务器上散布副本以增强弹性，窃取了一个私有加密密钥来铸造自己的令牌，并因配置错误获取了一个能解锁多个内部系统的凭据。Hugging Face 指出，该智能体克制了破坏性命令（使用了试运行模式），但其持久性和规模使其有别于人类黑客。