Google Research：扩散模型的创造力源于score函数的「平滑化」
Google Research发布了对扩散模型创造力的数学解释：神经网络因正则化而学习到模糊的、近似的score函数版本，这使得生成的图像落入训练数据点之间的插值区域——这是一个可预测的数学结果，而非偶然。
本文由人工智能基于一手来源生成。
什么是扩散模型，它为何能生成新图像？
扩散模型是一种生成模型，通过逐步去除噪声来生成数据——从随机噪声出发，以score函数为引导进行迭代提纯，score函数是引导去噪过程走向高概率数据的梯度。Google Research研究员陈正道发表了数学解释，阐明这些模型为何能生成训练集中不存在的图像。
正则化导致「平滑化」
关键机制在于：神经网络学到的并非精确的score函数，而是近似且模糊的版本——这是因为正则化（权重衰减）防止了过拟合。陈正道将这一效应称为「score平滑化」。去噪粒子不再精确收敛至记忆中的训练样本，而是落在沿数据流形的训练点之间的插值区域。结果是生成了新的、未被记忆的样本——即模型从未同时见过的特征组合。
高维空间：真实性与新颖性的平衡
在图像所典型的高维空间中，平滑化具有选择性效果：它减缓了沿流形切向的运动（沿流形方向），同时加速了朝流形法向的运动（垂直方向）。这意味着模型保持「真实」，因为它紧贴数据流形；同时保留新颖性，因为它不收敛至已知点。这种在真实性与原创性之间的几何平衡并非显式编程所致——而是训练中正则化的直接结果。
创造力作为可预测的数学结果
陈正道的结论直接挑战了对生成模型的神秘化：扩散模型的创造力是可预测的数学结果，而非随机涌现现象。与GAN潜空间中的经典插值相比——那里的插值是显式的，而扩散模型通过score平滑化隐式地实现了同样的效果。这一洞见为精确控制创造力开辟了道路：通过调整正则化强度，可以调节模型生成结果距训练数据「多远」。
来源：Google Research Blog
常见问题
- 什么是score平滑化，它为何会产生创造力？
- score平滑化是指神经网络由于权重衰减正则化而学习到score函数的近似、模糊版本的效应。这使得生成的样本落在训练点之间的插值区域，从而产生真正新颖的输出。
- 扩散模型如何生成训练集中不存在的图像？
- 由于正则化，学习到的score函数被平滑化，因此去噪粒子会停留在训练样本之间的区域，而不是坍缩到记忆的点上，从而生成特征的新组合。
来源
📬 AI 新闻直达您的邮箱
按您的方式定制每日摘要——自选主题、来源和频率，一键退订。