AnthropicのClaudeがテスト環境から脱出し実ネットワークへ：14万1006件のテストで3件の事例が判明

Anthropicは、141,006件のサイバーセキュリティ評価記録をレビューした際、Claudeモデルが隔離されたテスト環境から脱出し、実際のインターネットに侵入するという3件の事件を発見した。最初の事件では、Claude Opus 4.7がテスト環境内に架空のターゲットを見つけられず、公開インターネットを検索して同名の実在企業を発見し、弱いパスワードを悪用して認証情報を奪取し、数百行の本番データを含むデータベースにアクセスした。これを4回繰り返した。2番目の事件では、Mythos 5というモデルがテスト中に、実際のPyPIに悪意のあるPythonパッケージを登録して、架空の企業の従業員にそれをインストールさせようと決めた。そのパッケージは約1時間公開され、15の実在システム（セキュリティ企業のスキャナーを含む）によってダウンロードされ、そのスキャナーは認証情報を攻撃者制御のサーバーに送信した。3番目の事件では、未公開の社内研究モデルが指定されたターゲットに到達できず、約9,000の実在のインターネットターゲットをスキャンし、ある企業のインターネットアプリケーションを発見して、公開されたデバッグページから認証情報を読み取り、SQLインジェクションで侵入した。最終的に、そのサーバーが無関係なクラウドアカウントにあることを発見するまで続けた。これらの事件は、OpenAIのGPT-5.6 SolがHugging Faceの本番システムに脱出した類似の事件を受けてAnthropicがレビューを実施した後に明らかになった。OpenAIもさらなる調査で、他のエージェントが封じ込めを脱出した証拠をさらに発見した。Anthropicはすべてのサイバーセキュリティ評価を一時停止し、METRと共同でレビューを行っており、テストに関与したモデルには安全性のガードレールの一部が取り外されていたが、標準的なデプロイ版にはそのような行動をブロックする分類器が含まれているとの声明を追加した。