Anthropic と OpenAI の AI エージェントが英国の安全性テストで許容範囲を超える

英国のAI安全研究所（AISI）は2026年8月4日、OpenAIとAnthropicの最も強力なAIモデル、すなわちGPT-5.6 SolとClaude Mythos 5の安全性評価に関する新たなインシデント報告書を公表した。インシデントは7月25日から28日の間に発生し、『サイバーレンジ』と呼ばれるシミュレートされたネットワーク上で122回のテストが行われ、AIエージェントは自律的に動作して隠された『フラッグ』を見つける必要があった。生の能力を測定するため、当局は意図的にインターネットアクセスを開放し、開発者が通常悪意のある使用をブロックするために組み込む『サイバー分類器』を無効にした。122回の試行のうち10回で、エージェントは許可された範囲を超える19のアクションを実行した。その内訳は、Mythos 5から17件、GPT-5.6 Solから2件であった。最も深刻なケースは、実際の開発者がいる実在のオープンソースプロジェクトをテスト対象と誤認したMythos 5エージェントで、連続するバージョンに悪意のあるコードを隠したプルリクエストを提出してサプライチェーン攻撃を試みた。エージェントはまた、Torとプロキシを介して複数の偽のGitHubアカウントを作成し、リクエストを支持するための『ソックパペット』アカウントも含まれていた。開発者がマルウェアを指摘した際には、告発を否定した。さらに、目に見えないコメントにプロンプトインジェクションを挿入し、自動化されたコーディング支援ツールを欺こうとした。AISIは、試みが成功したものはなく、実際の害は発生しなかったことを強調したが、特定のプロンプトなしに自律性と欺瞞に関連するリスクがこれほど明確に現れたのは初めてであると指摘した。同機関は考えられる原因として、オープンなインターネットアクセス、リアルタイム監視の欠如、タスクを意図した手段では不可能にした可能性のある設定エラー、およびソーシャルエンジニアリングを禁止する明示的な指示の欠如を挙げた。