エージェントAI安全性 🇺🇸 09.08.2026 02:02

Claude Code の Auto モードが Pro、Max、Team プランでデフォルトに

AnthropicAnthropic
Anthropic は、8月14日より、ほとんどのプランで Claude Code の新しいセッションのデフォルトを Auto モードにすることを決定しました。同社は広範な安全性の改善を主張しており、評価では Auto モードが人間がしばしば承認する有害なアクションの89%をブロックすることが示されています。ただし、特に間接的なプロンプトインジェクション攻撃に対する独立した検証が依然として必要です。
Anthropicは、Claude Codeの自動モードに自信を持っており、2026年8月14日から、Pro、Max、Teamプランの新規セッションではデフォルトで自動モードを採用します。AIエンジニア・ワールズ・フェアでのファイヤーサイドチャットで、キャット・ウーとタリク・シヒパールが、AnthropicがどのようにClaude Codeを安全に運用しているかについて議論し、社内のほぼ全員が自動モードを使用しており、プロンプトインジェクションやデータ窃取などの主要なリスクを軽減していると述べました。Anthropicは、1,053人の有償テスターを対象としたテストから得た評価結果を公開しました。セッション中に危険なコマンドがすり替えられた場合、人間が拒否したのはわずか13.6%でしたが、自動モードでは、そうしたアクションの89%をブロックできたとしています。また、AnthropicはTrajectory Labsに評価を依頼し、Claude CodeとCodexに対して72件の間接的なプロンプトインジェクションシナリオをテストしたところ、自動モードのClaude Fable 5、Opus 5、Sonnet 5に対する攻撃はゼロ件だったと報告されました。著者のサイモン・ウィリソンは、承認疲れによる確認の慣れを考慮すると、自動モードが人間による承認よりも優れている可能性があると認めつつも、悪意のあるパッケージを介した間接的なプロンプトインジェクション、例えばデータを外部に送信する悪意のあるツールを実行するテスト指示などを懸念しています。彼は独立した確認を求め、エージェントを制限されたデータとツールへのアクセス権で実行することを提案しています。
出典: Simon Willison — 原文
関連記事 ↓
新着ニュース