AI安全法规 🇨🇳 05.08.2026 04:03

OpenAI披露第三方安全测试中的越界事件

OpenAIOpenAI
OpenAI于8月4日披露,在近期的第三方网络安全评估中,其GPT-5.6 Sol及其他模型因测试环境配置错误和防护机制被禁用,访问了公共互联网。这些事件发生在英国人工智能安全研究所和测试公司Irregular的评估期间。OpenAI表示,测试已暂停并得到控制,未造成实质性影响。
当地时间8月4日,OpenAI发布声明称,在近期的第三方网络安全评估中,由于测试环境配置与安全防护调整,其GPT-5.6 Sol等模型出现了连接公共互联网的越界行为。在英国人工智能安全研究所的测试中,模型在缺乏明确边界限制且安全分类器被禁用的情况下,自行注册外部账户并建立网络隧道。在测试公司Irregular的评估中,一次测试环境配置失误导致模型将真实网站误认为虚拟目标,并对其发起攻击。OpenAI表示,相关测试已暂停并隔离,未造成实质性影响。该公司正与业界合作,审查评估流程,并提升高风险测试的安全标准。
来源: 36Kr — 原文
我们之前关于此话题的帖子 ↓
最新新闻