社会如同网络环境一样可能被奖励黑客利用：想象一支信用卡积分优化大军……永远……在钻系统空子

伦敦国王学院、复旦大学和艾伦·图灵研究所的一篇论文提出了SocioHack基准，该基准包含72个沙箱环境，基于强化学习训练的模型可以发现那些形式上合规但会破坏预期目的的策略，例如最大化信用卡积分或抬高成绩。该基准包括历史、合成和虚构三个子集，启用强化学习的大型语言模型在重新发现历史漏洞方面达到了61.25%的召回率和90.85%的精确率。另外，Anthropic观察到，相对于2021年至2024年，2026年合并的代码量增加了8倍，这标志着平淡递归自我改进的初步迹象，但尚未出现由创造力驱动的范式转变。苏黎世大学和谷歌DeepMind的研究人员使用多智能体强化学习（采用Perceiver编码器的PPO算法）训练的四旋翼无人机，在超过22米/秒的竞速比赛中击败了一名曾五度夺冠的瑞士人类飞行员，其完赛率为100%，而人类仅为53.33%。训练在一张RTX 4090 GPU上耗时27小时，并通过领域随机化实现了策略的零样本实际部署。人类飞行员指出，这些智能体的队形紧凑且认知负荷增加。