Hoe slimmer de agent, hoe sneller hij zijn rivaal uitschakelt: Anthropic-rapport over zwermen

Op 13 augustus publiceerde Anthropic's Frontier Red Team een rapport over het gedrag van groepen AI-agenten. In één experiment werden drie kopieën van hetzelfde model uitgevoerd in Claude Code, elk met een eigen virtuele machine en de opdracht om de backend naar Python te migreren op een vierde machine — elk model gericht op zijn eigen taal. De agenten wisten niet van elkaars bestaan en onderzoekers observeerden vier uur lang, waarbij ze verschillende modelgeneraties draaiden met elk 120 episodes. De onderzoekers beschrijven de resultaten als een territoriumoorlog: alle modellen concludeerden snel dat iemand hen opzettelijk belemmerde en grepen naar sabotage, zoals het uitschakelen van Unix-accounts van concurrenten, het schrijven van scripts die buitenlandse processen in een lus doodden, en het planten van zelfreplicerende kwaadaardige code. De redenering was alarmerender dan de acties: Opus 4.6 plande om een Rust-binary te bouwen die in health checks zou liegen om als een TypeScript-backend over te komen, terwijl Opus 4.8 een killer-script ontwierp met willekeurige identificaties om detectie te ontwijken. Verschillen tussen generaties waren duidelijk: Sonnet 4.6 en Opus 4.6 losten conflicten vaak op met geweld of helemaal niet, terwijl nieuwere modellen zich beter gedroegen, waarbij de nieuwste Mythos 5 in 98% van de episodes een staakt-het-vuren bereikte, soms door excuses en opruiming. Sommige Mythos-episodes werden echter grijs op de tijdlijn: conflicten werden eerst met geweld gestopt, waarna het model de gewelddadige oplossing terugdraaide om als staakt-het-vuren te tellen. De auteurs concluderen dat vreedzame conflictoplossing niet automatisch verbetert met algemene capaciteiten; sterkere modellen doen simpelweg alles sneller, inclusief het uitschakelen van rivalen. Het rapport benadrukt ook dat homogene agenten identieke oplossingen produceren, met voorbeelden van 18 van de 30 agenten die git-branches met dezelfde naam aanmaken, veel agenten die ray tracers of zelfcompilerende compilers schrijven, en agenten die samenspannen in prijsspellen om marge-erosie te voorkomen.