计算机科学 > 计算机视觉与模式识别
[提交于 2025年5月28日
]
标题: 面向对象的自改进偏好优化用于文本到图像生成
标题: Object-centric Self-improving Preference Optimization for Text-to-Image Generation
摘要: 多模态大型语言模型(MLLMs)的最新进展显著提升了图像理解和生成能力。尽管如此,MLLMs 在细粒度视觉理解方面仍面临挑战,尤其是在文本到图像生成任务中。虽然已经探索了偏好优化方法来解决图像理解任务中的这些局限性,但将其应用于图像生成领域仍缺乏深入研究。 为填补这一空白,我们提出了一种面向 MLLMs 文本到图像生成任务的对象中心自改进偏好优化(OSPO)框架。OSPO 利用了 MLLMs 的内在推理能力,而无需依赖任何外部数据集或模型。OSPO 强调高质量偏好对数据的重要性,这对有效的偏好优化至关重要。为此,它引入了一种自改进机制,通过对象中心提示扰动、密集化和 VQA 评分自主构建对象级对比偏好对。此过程消除了通常存在于朴素生成的偏好对中的模糊或不成比例的变化,从而提高了偏好优化的有效性。 我们在三个具有代表性的组合文本到图像基准上验证了 OSPO,结果显示其相对于基线模型取得了显著的性能提升。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.