AI在说服力上超越人类:研究;自主AI何时出现;通向超级智能的路径
OpenAI
Google/DeepMind
xAI
Anthropic
Google DeepMind
来自牛津大学、英国人工智能安全研究所(AISI)、斯坦福大学和伦敦政治经济学院(LSE)的研究人员发现,当前的人工智能系统在文本对话中比人类更具说服力,包括收集真实捐款。此外,还讨论了自主人工智能(无需人类参与)的前景以及谷歌DeepMind提出的可能通向超级智能的路径。
一项涉及6923人和18978段对话的新研究发现,AI系统在文本说服方面比人类专家更有效,即使人类事先进行了准备、训练并获得了金钱奖励。最强的说服模型是Opus 4.1和Opus 4.6,其次是GPT-4o、GPT-5.4(OpenAI)、Gemini 2.5 Pro(Google)和Grok 4.20(xAI)。AI的优势在于能够快速生成大量信息;当限制速度和消息长度时,差距便消失。AI在慈善组织Save the Children的募捐活动中,效率几乎是专业募捐者的三倍。作者警告,控制此类技术的实体存在影响力集中的风险,并呼吁进行社会监管。新闻的第二部分讨论了自维持人工智能(self-sustaining AI)——即无需人类干预即可自主复制物理基础设施的系统。根据Ajeya Cotra(METR)的估计,这种AI可能在2036年实现,而记者Timothy B. Lee则认为20年内概率为10%–20%,中位时间在50年。主要障碍被认为是生产复杂设备所需的隐性知识(tacit knowledge),但乐观者相信AI能通过强化学习和通用智能克服这一问题。第三部分审视了Google DeepMind关于从通用人工智能(AGI)过渡到超级智能(ASI)的研究。ASI定义为在所有任务上超越人类专家集体的系统。可能的路径包括扩展计算能力、模型规模和数据集,以及算法范式的转变,类似于向Transformer和混合专家模型(Mixture-of-Experts)的过渡。
来源: Import AI —
原文
