Diffusion Models: 生成扩散模型数学推导

本文基于2020 年 提出的 DDPM [ Denoising diffusion probabilisticmodels 模型 ，对扩散模型的原理进行 详细 的 介绍 。对于扩散过程，在满足马尔科夫链的条件下，我们应用了重参数技巧证明了基于原始数据我们 可以 对任意步进行采样 ，并且可以使用数学表达式 进行 表示；对于逆扩散过程， 我们应用了贝叶斯公式和高斯分布的性质进行数学推导得到了逆扩散过程的后验 分布 ，并且应用于目标 优化；对于目标优化， 在已知真实数据的条件下，我们应用了极大似然估计将模型参数估计转换为对数似然估计，结合了 变分推断 和 KL 散度将极大化对数似然转换为最小化变分下界的问题，通过数学推导 将原来 预测均值 转换成预测噪声 从而简化了模型的目标 优化 在 得到目标函数之后，我们完成了模型设计的算法流程介绍，并给出了训练模型；最后，我们基于扩散模型对于非条件生成图像和有条件生成图像进行了代码实现并且分析了结果 。