计算机科学 > 机器学习
[提交于 2025年6月6日
]
标题: 扩散模型中的对抗噪声
标题: Antithetic Noise in Diffusion Models
摘要: 我们系统地研究了扩散模型中的对抗性初始噪声。在针对不同数据集训练的无条件模型、文本条件潜扩散模型以及扩散后验采样器中,我们发现将每个初始噪声与其否定配对始终会产生强负相关的样本。为了解释这一现象,我们将实验与理论分析相结合,提出了一个关于学习得分函数近似仿射反对称(具有常数偏移的奇对称)的猜想,并提供了支持该猜想的证据。利用这种负相关性,我们实现了两种应用:(1)在不影响质量的情况下增强像Stable Diffusion这类模型的图像多样性;(2)当估计下游统计量时,提高不确定性量化精度(例如,置信区间可缩小高达90%)。在此基础上,我们将两点配对扩展到随机化准蒙特卡洛估计器中,进一步提高了估计准确性。我们的框架无需额外训练,适用于各种模型且不会增加运行时开销。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.