计算机科学 > 机器学习
[提交于 2025年4月7日
]
标题: 无维度收敛的扩散模型用于近似高斯混合物
标题: Dimension-Free Convergence of Diffusion Models for Approximate Gaussian Mixtures
摘要: 扩散模型因其卓越的生成性能而脱颖而出,特别是在通过迭代去噪来生成高质量样本方面表现尤为突出。虽然当前理论表明,为了准确生成样本所需的去噪步数应该随数据维度线性增长,但这并不能反映广泛使用的算法(如去噪扩散概率模型 DDPM)的实际效率。 本文研究了扩散模型在从可以通过高斯混合模型(GMM)良好近似的复杂高维分布中采样的有效性。 对于这些分布,我们的主要结果表明,DDPM 最多需要$\widetilde{O}(1/\varepsilon)$次迭代即可达到总变差(TV)距离下的$\varepsilon$-精确分布,且这一结果独立于环境维度$d$和分量数量$K$,至多以对数因子依赖。 此外,这一结果对评分估计误差具有鲁棒性。 这些发现强调了扩散模型在高维设置下的显著有效性,考虑到 GMM 的通用逼近能力,同时为它们在实际中的成功提供了理论见解。
当前浏览上下文:
cs.NA
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.