自持续AI病毒与渐进式进展:本周AI要闻
OpenAI
Anthropic
Google DeepMind
Meta
研究人员展示了一种自我复制的AI蠕虫,利用开放权重的大语言模型(Large Language Models, LLM)入侵计算机并自我维持,实现约37%的完全攻击成功率。其他新闻方面,德瓦克什·帕特尔预测随着AI变得更聪明,计算成本将上升;超过1300名AI实验室员工签署声明,请求美国支持渐进式开发前沿AI;一项新研究指出AI系统擅长工程能力,但缺乏创造性研究能力,两份影子评审的论文均被拒绝。
来自多伦多大学、向量研究所、剑桥大学和 ServiceNow 的一个团队构建了一个原型计算机病毒,该病毒利用开放权重大语言模型在受感染的 GPU 节点上进行推理,使其能够推理并执行攻击。这款蠕虫病毒采用自定义框架和推理图,在漏洞检测方面的成功率约为 80%,利用漏洞方面为 53%,自我复制方面为 88%,总体攻击成功率达到约 37%,凸显了自我维持的人工智能驱动网络威胁的出现。另外,Dwarkesh Patel 认为,随着人工智能系统变得越来越智能,计算价格将飙升,因为它们能更好地利用相同的计算量实现盈利,可能导致租用一块 H100 的年费超过 25 万美元,不过供应链的机器人化最终可能会降低成本。与此同时,来自各大人工智能实验室(包括 OpenAI、Anthropic、Google DeepMind、Meta 和 Safe Superintelligence Inc.)的 1300 多名员工签署了一份声明,要求美国政府支持一项国际努力,开发工具以有意地控制自动化人工智能发展的前沿,理由是快速加速可能超出人类控制的风险。在研究方面,普林斯顿大学、斯坦福大学及其他机构的合作进行了一次“影子评估”,让人工智能系统(OpenClaw 框架中的 Claude Opus 4.8)尝试回答来自 NeurIPS 2026 投稿的未发表研究问题;两次尝试均被原论文作者以缺乏新颖贡献和实验设计不佳为由拒绝,表明人工智能系统在工程方面很强,但在创造性研究方面较弱。这些发现表明,递归自我改进的时间表可能比一些人预期的要长。
来源: Import AI —
原文
