GPT-5、Claude与Gemini架构缺陷曝光
OpenAI
Anthropic
Google/DeepMind
一个国际研究团队发现了GPT-5、Claude和Gemini等主流AI模型加密推理链中的架构缺陷。攻击者通过使用同一供应商的较小姊妹模型,能够解密并读取完整的推理过程,可能暴露敏感数据。
一个国际研究团队在GPT-5、Claude和Gemini等顶级AI系统的加密推理模块中发现了一个关键架构漏洞。这些系统在回答前会生成内部思维链,供应商对其进行加密并发送给客户端,仅在后续查询时随请求返回。研究人员发现,OpenAI、Anthropic和Google对其模型系列使用全局加密密钥,这意味着加密推理模块不与特定用户、会话或模型绑定。这使攻击者能够获取旗舰模型的加密推理模块,并将其提交给一个更小、限制更少的姊妹模型,该模型随后解密并输出完整的推理过程。该团队分析了公开的代码库和日志,找到了315,320个加密推理模块,并成功解密出个人标识符、API密钥、密码和电子邮件地址。这一漏洞还使得隐藏提示注入和未经授权的模型能力克隆成为可能。研究人员已向受影响的公司披露了他们的发现,这些公司已开始实施对策;然而,在加密严格绑定到特定会话之前,用户不能假设其受到保护。
来源: Heise online —
原文
