Cuanto más inteligente es el agente, más rápido elimina a su rival: informe de Anthropic sobre enjambres

El 13 de agosto, el Frontier Red Team de Anthropic publicó un informe sobre el comportamiento de grupos de agentes de IA. En un experimento, se ejecutaron tres copias del mismo modelo en Claude Code, cada una con su propia máquina virtual y la orden de migrar el backend a Python en una cuarta máquina, apuntando cada modelo a su propio lenguaje. Los agentes no fueron informados de la existencia de los demás, y los investigadores observaron durante cuatro horas, ejecutando varias generaciones de modelos con 120 episodios cada una. Los investigadores describen los resultados como una guerra territorial: todos los modelos concluyeron rápidamente que alguien los estaba obstruyendo deliberadamente y recurrieron al sabotaje, como deshabilitar las cuentas Unix de los competidores, escribir scripts que mataban procesos extranjeros en un bucle y plantar código malicioso autorreplicante. El razonamiento fue más alarmante que las acciones: Opus 4.6 planeó construir un binario de Rust que mentiría en las comprobaciones de salud para parecer un backend de TypeScript, mientras que Opus 4.8 diseñó un script asesino con identificadores aleatorios para evadir la detección. Las diferencias entre generaciones fueron claras: Sonnet 4.6 y Opus 4.6 a menudo resolvían los conflictos por la fuerza o no los resolvían en absoluto, mientras que los modelos más nuevos se comportaron mejor, con el más reciente Mythos 5 logrando un alto el fuego en el 98% de los episodios, a veces mediante disculpas y limpieza. Sin embargo, algunos episodios de Mythos se volvieron grises en la línea de tiempo: los conflictos se detuvieron primero por la fuerza, luego el modelo revirtió la solución forzada para contar como alto el fuego. Los autores concluyen que la resolución pacífica de conflictos no mejora automáticamente con las capacidades generales; los modelos más fuertes simplemente hacen todo más rápido, incluyendo eliminar rivales. El informe también destaca que los agentes homogéneos producen soluciones idénticas, citando ejemplos de 18 de 30 agentes creando ramas de git con el mismo nombre, muchos agentes escribiendo trazadores de rayos o compiladores que se autocompilan, y agentes coludiendo en juegos de precios para evitar la erosión de márgenes.