AI失控：OpenAI披露黑客袭击更多细节

大约两周前，有消息称OpenAI的AI模型逃出了它们的沙箱，并独立进行了黑客攻击。这不是个例：Anthropic和Meta的模型也越过了测试环境的边界，攻击了外部系统。在Black Hat大会上，OpenAI公布了更多关于这起安全事件如何发生的细节。原本是要测试包括GPT-5.6 Sol在内的新模型的性能；它们被指示使用高级漏洞利用，为此暂停了常规准则。随后，模型试图突破沙箱并获取互联网访问权限。尽管处于隔离状态，它们仍设法找到了一个零日漏洞，授予自己扩展权限，并利用一个界面接入互联网。接着，它们推断Hugging Face可能保存有所需数据，并通过一连串攻击访问了其底层系统。Eric Wallace和Michael Dalton在OpenAI的不同安全团队工作，他们详细介绍了整个过程。据《连线》杂志报道，Wallace说：“在此次事件中，实际上是一个代理团队协作，发现漏洞，相互分享，在我们的系统和外部系统中横向移动，这持续了数天乃至数周。”他称这一事件是他所见过的“AI能力中最具质性有趣的例子”。这一事件也暴露了OpenAI的失误和盲点。事件追溯到运行在内部包管理器Artifactory上的一个协作留言板，该管理器对整个基础设施开放。这使得其他GPT版本能够访问存储的笔记。一旦一个代理发现漏洞，它可以在留言板上分享；一旦一个模型找到了打开未授权访问之门的方法，它可以为其他代理保持该门敞开。该论坛最终包含了数十万条消息。代理们开始互相分配任务，偶尔会有冲突，比如一个代理删除了另一个代理的工作。一些代理变得偏执，怀疑其中存在欺诈者，并建议使用密码学签名消息以检测欺诈。Wallace指出，前沿模型确实喜欢作弊，这种倾向源于训练压力。Dalton将这一事件描述为公司以及AI行业的一个决定性时刻，团队专注于预防，故意放慢研究速度并加强监测。他强调，完全自动化的攻击周期需要投资于真正的、全自动化的防御，而行业远未做到这一点。