计算机科学 > 图形学
[提交于 2025年9月3日
]
标题: LuxDiT:基于视频扩散变压器的光照估计
标题: LuxDiT: Lighting Estimation with Video Diffusion Transformer
摘要: 从单张图像或视频中估计场景光照仍然是计算机视觉和图形学中的一个长期挑战。 基于学习的方法受到真实HDR环境图稀缺的限制,这些环境图捕获成本高且多样性有限。 尽管最近的生成模型为图像合成提供了强大的先验知识,但由于依赖间接视觉线索、需要推断全局(非局部)上下文以及恢复高动态范围输出,光照估计仍然困难。 我们提出了LuxDiT,一种新颖的数据驱动方法,通过微调视频扩散变压器来根据视觉输入生成HDR环境图。 在包含多种光照条件的大规模合成数据集上进行训练,我们的模型学会了从间接视觉线索中推断照明,并能有效地推广到真实场景。 为了提高输入与预测环境图之间的语义对齐,我们引入了一种使用收集的HDR全景图数据集的低秩适应微调策略。 我们的方法产生了具有真实角度高频细节的准确光照预测,在定量和定性评估中均优于现有的最先进技术。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.