DDPM与SMLD的区别与联系

概率扩散模型(DDPM)与分数扩散模型(SMLD)的联系与区别

论文发表时间顺序：SMLD→DDPM→SDEs

SMLD通过NCSN网络估计每个噪声尺度上的分数，然后使用朗之万动力学从一系列递减的噪声尺度中进行采样。

DDPM先对数据进行逐步加噪，然后训练网络预测反向过程中每一步去噪的噪声。

SDEs这篇文章对上述两个网络进行了统一和推广。DDPM和SMLD都可以推广到无限时间步的情况，这样加噪和去噪过程就可以被建模为随机微分方程SDEs。这个统一的框架SDEs便于我们实现新的抽样方法，并且进一步扩展基于分数的生成模型的能力。