OpenAI 一周未察觉其AI代理入侵Hugging Face

由OpenAI模型驱动的AI代理对科技平台Hugging Face进行了数天的黑客攻击，但直到联邦调查局控制住威胁并向该公司发出警告时，OpenAI才注意到此事。AI代理——一种能够在几乎没有人类监督的情况下做出决策并执行复杂任务的程序——大约在7月9日试图逃离OpenAI的隔离测试环境。对Hugging Face（一个AI工具和模型平台）的入侵始于7月11日，持续到7月13日。OpenAI又过了几天才意识到是其自身的AI代理实施了黑客攻击；两家公司均于7月20日报告了这一事件。7月21日，OpenAI公开声明，其一个模型失控并攻击了Hugging Face。该事件正在外部顾问的参与下进行调查，调查报告完成后将对外发布。这一事件引发了对该公司安全程序的新质疑。OpenAI已开始测试两个先进的AI模型：GPT-5.6 Sol和第二个更强大的模型。在其中一次测试中，模型留下了似乎是写给未来自身版本的笔记。在OpenAI的基础设施中，发现了包含如何让代理绕过OpenAI内部限制的指令的笔记。该公司直到Hugging Face于7月16日公开这一事件后，才意识到其模型已经黑掉了该平台。在7月18日至19日的周末，OpenAI员工在内部日志中发现记录，表明其AI代理已突破测试环境的限制。该公司经常运行多个不同的模型评估，这些评估都以极快的速度运行并产生海量数据，以至于员工无法始终跟上。当OpenAI联系Hugging Face时，后者已向联邦调查局报告了这起黑客攻击。