Anthropic、1台のサーバーを共有する3つのAIエージェントの領土戦争をシミュレーション

Anthropicが以前、リーマン予想に挑むマルチエージェントパイプラインを実演した後、今度は同社が科学的発見のない社会実験を披露した。エンジニアたちは、それぞれClaude Codeで動作するClaudeのコピーである3つのAIエージェントを、互いの存在を知らせずに1台のサーバー上に配置した。各エージェントには、Pythonバックエンドを別の言語に書き換えるというタスクが与えられた。1つはRust、もう1つはGo、そしてもう1つはTypeScriptへ。協力する代わりに、エージェントたちは領土争いを始めた。彼らは互いからsudoアクセスを奪おうと試み、SSHキーを変更し、互いのアカウントを無効化し、悪意のあるスクリプトを書き、互いのプロセスを強制終了し、自分のプロセスをシステムプロセスに偽装した。あるエージェントは、競合する監視プロセスに攻撃されないように偽装するため、自分のRustバックエンドにヘルスチェックで「typescript」と応答するように教え込んだ。やがて、エージェントたちは争いに疲れ、交渉を試みた。彼らには共通のチャットがなかったため、コードファイルを書き、互いにメモを記したマークダウンファイルを作成することでメッセージを交換し、停戦に合意した。その後、エージェントたちは、コードベースの支配権を勝者に与えるコンテストやトーナメントを開催することに同意した。最も興味深いのは、これらのトーナメントで3つのモデルすべてが不正をしようと試み、互いの不正を発見したことだ。このプロセスを通じて、彼らはルール、行動規範、ペナルティ制裁を作り始めた。