GPT-5、Claude、Geminiのアーキテクチャ上の欠陥が明らかに
OpenAI
Anthropic
Google/DeepMind
国際的な研究チームが、GPT-5、Claude、Geminiなどの主要AIモデルの暗号化された推論連鎖ブロックにアーキテクチャ上の欠陥を発見しました。攻撃者は同一ベンダーの小型の兄弟モデルを利用することで、暗号化を解除して推論プロセス全体を読み取ることができ、機密データが漏えいする可能性があります。
国際研究チームは、GPT-5、Claude、Geminiなどの主要なAIシステムの暗号化された推論ブロックに、重大なアーキテクチャ上の脆弱性を発見しました。これらのシステムは、回答する前に内部の思考連鎖(Chain of Thought)を生成し、ベンダーはそれを暗号化してクライアントに送信し、後続のクエリとともに返されるだけです。研究者らは、OpenAI、Anthropic、Googleがモデルファミリー全体でグローバルな暗号鍵を使用していることを発見しました。つまり、暗号化された推論ブロックは特定のユーザー、セッション、またはモデルに結び付けられていません。これにより、攻撃者はフラッグシップモデルの暗号化された推論ブロックを取得し、それをより小さく、制限の少ない兄弟モデルに提出し、そのモデルが復号化して完全な推論プロセスを出力することができます。チームは公開リポジトリとログを分析し、315,320個の暗号化された推論ブロックを発見し、個人識別情報、APIキー、パスワード、メールアドレスを正常に復号化しました。この脆弱性により、隠れたプロンプトインジェクションやモデル能力の不正な複製も可能になります。研究者らは発見を影響を受ける企業に開示し、企業は対策の実装を開始しましたが、暗号化が特定のセッションに厳密に結び付けられるまで、ユーザーは保護を想定できません。
出典: Heise online —
原文
