计算机科学 > 计算机视觉与模式识别
[提交于 2025年9月1日
]
标题: 无需训练的提示、图像和引导增强的身份保留文本到视频生成
标题: Identity-Preserving Text-to-Video Generation via Training-Free Prompt, Image, and Guidance Enhancement
摘要: 保持身份的文本到视频(IPT2V)生成创建与参考主体图像和文本提示都一致的视频。 虽然在ID匹配数据上微调大型预训练视频扩散模型在IPT2V上取得了最先进的结果,但数据稀缺性和高昂的调优成本阻碍了更广泛的改进。 因此,我们引入了一个无需训练的提示、图像和引导增强(TPIGE)框架,弥合视频描述与参考图像之间的语义差距,并设计了采样引导,以增强身份保留和视频质量,在最小成本下实现性能提升。具体来说,我们首先提出了面向面部的提示增强,使用GPT-4o通过参考图像获得的面部细节来增强文本提示。 然后我们提出了面向提示的参考图像增强,利用保持身份的图像生成器来优化参考图像,修正与文本提示的冲突。 上述相互优化显著提高了视频生成前的输入质量。 最后,我们提出了面向身份的时空引导增强,利用统一梯度在生成过程中共同优化身份保留和视频质量。我们的方法优于之前的工作,并通过1000视频测试集上的自动和人工评估得到了验证,在ACM多媒体2025身份保留视频生成挑战赛中获得第一名,展示了最先进的性能和强大的泛化能力。 代码可在https://github.com/Andyplus1/IPT2V.git获取。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.