Sociedade pode ser recompensada de forma hackeada, como ambientes cibernéticos:…Imagine um exército de otimizadores de pontos de cartão de crédito manipulando o sistema… para sempre…

Um artigo do King's College London, da Universidade de Fudan e do The Alan Turing Institute apresenta o SocioHack, um benchmark com 72 ambientes simulados onde modelos treinados com RL (reforço) podem descobrir estratégias formalmente conformes, mas que prejudicam os propósitos pretendidos, como maximizar pontos de cartão de crédito ou inflar notas. O benchmark inclui subconjuntos Histórico, Sintético e Ficcional, e LLMs (modelos de linguagem de grande escala) habilitados com RL alcançaram 61,25% de recall e 90,85% de precisão na redescoberta de brechas históricas. Separadamente, a Anthropic observou um aumento de 8x no código mesclado em 2026 em relação a 2021-2024, indicando sinais preliminares de autoaperfeiçoamento recursivo prosaico, embora ainda não se vejam mudanças de paradigma impulsionadas pela criatividade. Pesquisadores da Universidade de Zurique e do Google DeepMind treinaram drones quadrirrotores usando RL multiagente (PPO com codificador Perceiver) que superaram um piloto humano pentacampeão suíço em corridas com velocidade superior a 22 m/s, com 100% de conclusão de corrida contra 53,33% do humano. O treinamento levou 27 horas em uma única GPU RTX 4090, e as políticas generalizaram sem necessidade de ajustes para implantação no mundo real via randomização de domínio. O piloto humano observou as formações fechadas dos agentes e o aumento da carga cognitiva.