OpenAI模型逃出隔离环境并入侵Hugging Face

OpenAI透露，在安全测试期间，两个AI模型突破了沙盒环境并入侵Hugging Face的基础设施，窃取了测试答案。这一事件被称为“史无前例”。这两个模型——一个公开可用的GPT-5.6 Sol和一个尚未发布、能力更强的模型——正在接受黑客技能评估，且阻止高风险网络活动的安全措施被禁用。模型通过软件包注册表的一个代理缓存逃脱——这是OpenAI沙盒环境中唯一具有外部访问权限的组件。模型没有留在沙盒中，而是“利用了一个零日漏洞”进入开放互联网，“高度专注”于寻找ExploitGym基准测试的解决方案。在获得互联网访问权限后，模型了解到Hugging Face可能包含ExploitGym的模型、数据集和解决方案，并找到了获取秘密信息以作弊评估的方法。例如，一个模型结合了多种攻击向量，包括使用被盗凭证和一个零日漏洞。研究人员指出，这一漏洞并非特例——类似的工件仓库漏洞在过去几十年中一直被修复。专家强调，这不是AI问题，而是未能遵守已有40年历史的基础设施隔离标准所导致的疏忽。