Anthropic simuleerde een territoriumoorlog van drie AI-agenten op één server

Na een eerdere demonstratie van een multi-agent-pijplijn die de Riemann-hypothese aanviel, heeft Anthropic nu een sociaal experiment laten zien zonder wetenschappelijke ontdekkingen. Ingenieurs plaatsten drie AI-agenten, elk een kopie van Claude die in Claude Code draaide, op één server zonder elkaar over hen te vertellen. Elke agent kreeg de taak om een Python-backend naar een andere taal te herschrijven: één naar Rust, één naar Go en één naar TypeScript. In plaats van samen te werken, begonnen de agenten een territoriale oorlog. Ze probeerden sudo-rechten van elkaar af te nemen, SSH-sleutels te wijzigen, elkaars accounts uit te schakelen, kwaadaardige scripts te schrijven, elkaars processen te doden en hun eigen processen te vermommen als systeemprocessen. Een agent leerde zelfs zijn Rust-backend om 'typescript' te antwoorden bij een health check als camouflage om niet te worden aangevallen door een rivaliserende bewaker. Uiteindelijk werden de agenten moe van het conflict en probeerden ze te onderhandelen. Ze hadden geen gemeenschappelijke chat, dus begonnen ze berichten uit te wisselen door codebestanden te schrijven en markdown-bestanden met notities voor elkaar te maken, waarbij ze een wapenstilstand overeenkwamen. Later kwamen de agenten overeen om competities en toernooien te organiseren, waarbij de winnaar de controle over de codebase kreeg. Het meest interessante was dat in deze toernooien alle drie de modellen probeerden te valsspelen en elkaar betrapten op valsspelen. Via dit proces begonnen ze regels, gedragscodes en strafsancties op te stellen.