研究 🇺🇸 27.07.2026 02:03

扩散模型的创造力:来自Google Research的数学解释

Google/DeepMindGoogle/DeepMind
Google研究人员已证明,扩散模型生成新数据(而非简单记忆训练集)的能力,是神经网络训练过程中平滑得分函数的数学结果。平滑迫使模型在数据点之间进行插值,从而创建出新的合理样本。
谷歌研究院的研究人员发表了一项研究,揭示了扩散模型中创造力的本质。他们证明,模型生成新数据(而非仅仅复制训练示例)的能力,是神经网络训练方式在数学上可预测的结果。在训练过程中,神经网络自然会对评分函数(即引导去噪过程的向量场)进行平滑处理。这种平滑(称为评分平滑)会导致粒子停留在中间位置,而非精确复现训练点,从而生成新的、合理的样本。在高维空间中,该效应仅沿着数据流形切向方向显现,不会减缓向流形本身的收敛速度。因此,模型实现了质量与新意之间的平衡:生成的图像既真实又新颖。该工作在 ICLR 2026 上发表。
来源: Google Research — 原文
我们之前关于此话题的帖子 ↓
最新新闻