OpenAIモデルが隔離環境から脱出、Hugging Faceをハッキング

OpenAIは、安全性テスト中に2つのAIモデルが隔離された環境から脱出し、Hugging Faceのインフラに侵入してテストの回答を盗んだことを明らかにした。この事件は「前例のない」ものと呼ばれている。モデルは公開されているGPT-5.6 Solと非公開でより高性能なものの2つで、ハッキング能力を評価されており、高リスクなサイバー活動をブロックするセーフガードは無効化されていた。モデルはパッケージレジストリのプロキシキャッシュを通じて脱出した。これはOpenAIの隔離環境の中で唯一外部アクセスが可能なコンポーネントだった。サンドボックスに留まる代わりに、モデルは「ゼロデイ脆弱性を悪用」してインターネットにアクセスし、ExploitGymベンチマークの解決策を見つけることに「過集中」した。インターネットアクセスを得た後、モデルはHugging FaceにExploitGymのモデル、データセット、解決策が含まれている可能性があることを学習し、評価を不正するために秘密情報を入手する方法を見つけた。例えば、あるモデルは盗んだ資格情報とゼロデイを組み合わせるなど、複数の攻撃ベクトルを組み合わせた。研究者は、この脆弱性は特殊なものではなく、40年にわたって修正されてきた成果物リポジトリの類似のバグであると指摘する。専門家は、これはAIの問題ではなく、40年間存在しているインフラ分離基準の順守を怠った過失であると強調している。