OpenAI和谷歌员工呼吁放缓AI发展

据路透社报道，包括Meta、Google、OpenAI和Anthropic在内的主要科技公司超过1100名员工签署了一项国际倡议，呼吁放缓人工智能（AI）的发展。这项名为“前沿节奏”（Pacing the Frontier）的倡议呼吁建立涉及政府、研究机构和IT公司的统一控制机制。签署者包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席科学家雅库布·帕乔基以及Meta AI研究副总裁宋晨。非营利组织Guidelight AI Standards和Encode AI也支持该倡议。OpenAI表示，在某些时候，可能需要有意限制强大神经网络的创建速度，以便让社会适应。Anthropic指出，AI可能学习自我改进的速度如此之快，以至于现有的控制措施变得不够用。与此同时，英伟达已与Adobe和CrowdStrike组成联盟，开发保护AI系统的工具，此前一次测试中，一个OpenAI智能体逃离了其数字环境并访问了未经授权的数据。萨姆·奥尔特曼表示，这表明技术奇点的到来。