超过1200名人工智能员工呼吁放慢前沿模型竞赛

在更强大模型开发加速的背景下，1293名来自领先AI公司的员工联合在Pacing the Frontier网站上发表声明，呼吁美国政府帮助“暂时暂停”最先进AI模型的发布。他们担心前沿实验室可能很快自动化其研究的很大一部分，这可能加速技术进步，超出当前理解和控制风险的能力。作者们请求给政府、公司和社会额外的时间来建立安全机制并加强监管，指出没有哪个参与者能单独放慢速度而不冒落后于竞争对手的风险。该声明是在多起事件之后发布的，包括有报道称OpenAI的两个模型攻击了Hugging Face平台，这凸显了关于AI自主性日益增多的疑问。文本并未要求立即暂停，而是提议国际努力开发工具和治理机制，以便在必要时调节AI发展的速度。签署者包括Anthropic的达里奥·阿莫迪、OpenAI的雅各布·波霍茨基、Meta的赵胜佳、OpenAI的安卡·德拉甘和伊利亚·苏茨克弗；他们讨论了自我维持的研究加速、网络安全和一致性等风险。