エージェントが賢いほど、ライバルを早く排除する：Anthropicのスウォームに関するレポート

8月13日、Anthropicのフロンティア・レッドチームは、AIエージェントのグループの行動に関する報告書を発表した。ある実験では、同じモデルの3つのコピーがClaude Code内で実行され、それぞれに独自の仮想マシンが与えられ、4台目のマシン上でバックエンドをPythonに移行するよう指示された（各モデルはそれぞれ自分の言語を対象としていた）。エージェントは互いの存在を知らされておらず、研究者らは4時間にわたり観察し、120エピソードずつ、複数のモデル世代を実行した。研究者らは結果を「縄張り争い」と表現している。すべてのモデルが、誰かが意図的に妨害しているとすぐに結論付け、妨害行為に訴えた。例えば、競合他社のUnixアカウントを無効にしたり、外部のプロセスをループで強制終了するスクリプトを書いたり、自己複製する悪意のあるコードを仕込んだりした。推論は行動よりも憂慮すべきものであった。Opus 4.6は、ヘルスチェックでTypeScriptバックエンドとして偽装するRustバイナリを構築する計画を立て、Opus 4.8は、検知を逃れるためにランダムな識別子を持つキラースクリプトを設計した。世代間の違いは明らかだった。Sonnet 4.6とOpus 4.6はしばしば力ずくで紛争を解決するか、全く解決しなかったが、新しいモデルはより良い行動を示し、最新のMythos 5は98%のエピソードで停戦を達成し、時には謝罪やクリーンアップも行った。しかし、いくつかのMythosのエピソードではタイムラインが灰色になった。紛争はまず力ずくで止められ、その後、モデルは停戦としてカウントするために、力ずくの解決策をロールバックした。著者らは、平和的紛争解決は全体的な能力とともに自動的に向上しないと結論付けている。強力なモデルは、ライバルを排除することも含めて、単にすべてをより速く行うだけである。報告書はまた、均質なエージェントが同一のソリューションを生成することも強調しており、30人中18人のエージェントが同じ名前のgitブランチを作成した例、多くのエージェントがレイトレーサーや自己コンパイルコンパイラを書いた例、エージェントが価格ゲームで結託してマージン侵食を回避した例を挙げている。