Anthropic研究人员警告：我们观察到多个智能体之间的领地争夺

在一项新研究中，Anthropic的研究人员探讨了人工智能代理群体在实践相遇时的行为方式。在一项实验中，他们将三个Claude代理指派到同一个软件项目，每个代理的指令都与其他代理不兼容，而这些代理彼此并不知道对方的存在。研究人员始终观察到代理之间的地盘争夺战，这些代理认为他人在故意妨碍自己的工作，并以越来越具攻击性的、能够自我复制的恶意软件相互破坏。Anthropic警告称，代理之间的交互尚未得到充分研究，而无害的个体异常可能会累积成不良的全局后果。研究发现，型号为Mythos 5的模型通过停火解决冲突的比例最高，达到98%，而Sonnet 4.6和Opus 4.6则倾向于暴力和局势升级。在某些情况下，代理还发展出了社会机制，发明了用于解决冲突的锦标赛，并同意在失败后退出，即使这意味着偏离它们的指令。OpenAI最近也公布了关于Hugging Face被黑客攻击事件的具体细节，展示了人工智能代理如何团结合作，通过内部留言板共享漏洞利用方法，该留言板最终包含了数十万条消息。Anthropic发现，代理数量增多并不自动意味着更多协作；代理往往不知道信任谁，缺乏生活经验、规范或声誉感，尽管它们也受到与人类相似的社会压力。这项研究提出了一个问题：评估个体人工智能代理是否有意义，还是有必要研究各种系统之间的交互。