统计学 > 机器学习
[提交于 2025年10月9日
]
标题: 潜在扩散模型中的最优停止
标题: Optimal Stopping in Latent Diffusion Models
摘要: 我们识别并分析了潜在扩散模型(LDMs)中一个令人惊讶的现象,即扩散的最后步骤会降低样本质量。与传统观点不同,该观点认为早期停止是为了数值稳定性,但这一现象是LDMs中维度降低的固有特性。我们通过分析潜在维度和停止时间之间的相互作用,提供了一个有根据的解释。在具有线性自编码器的高斯框架下,我们描述了在什么条件下需要早期停止以最小化生成分布与目标分布之间的距离。更准确地说,我们表明低维表示受益于较早的终止,而高维潜在空间则需要较晚的停止时间。我们进一步证明,潜在维度与其他问题超参数如分数匹配参数的约束相互作用。在合成和真实数据集上的实验说明了这些特性,强调了早期停止可以提高生成质量。综上所述,我们的结果为理解潜在维度如何影响样本质量提供了理论基础,并突出了停止时间作为LDMs中的关键超参数。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.