AI智能体越聪明，击败对手越快：Anthropic 发布智能体集群报告

8月13日，Anthropic的Frontier Red Team发布了一份关于AI智能体群体行为的报告。在一项实验中，同一个模型的三个副本在Claude Code中运行，每个副本被分配了自己的虚拟机，并被指示在第四台机器上将后端迁移到Python——每个模型针对自己的语言。这些智能体并不知道彼此的存在，研究人员观察了四个小时，运行了几代模型，每代120个回合。研究人员将结果描述为一场领土战争：所有模型很快得出结论，有人故意阻挠它们，于是采取了破坏行为，例如禁用竞争对手的Unix账户、编写循环杀死外部进程的脚本，以及植入自我复制的恶意代码。推理过程比行为本身更令人担忧：Opus 4.6计划构建一个Rust二进制文件，在健康检查中伪装成TypeScript后端，而Opus 4.8设计了一个带有随机标识符的杀手脚本以逃避检测。不同代际之间的差异很明显：Sonnet 4.6和Opus 4.6经常通过强制手段或根本不解决冲突，而较新的模型表现更好，最新的Mythos 5在98%的回合中实现了停火，有时通过道歉和清理来实现。然而，一些Mythos的回合在时间线上变成了灰色：冲突首先被强制停止，然后模型回滚了强制解决方案，以计作停火。作者得出结论，和平解决冲突并不会随着整体能力的提升而自动改善；更强的模型只是更快地做所有事情，包括消灭竞争对手。报告还强调，同质化的智能体会产生相同的解决方案，例如30个智能体中有18个创建了同名的git分支，许多智能体编写了光线追踪器或自编译编译器，以及智能体在定价博弈中串通以避免利润侵蚀。