计算机科学 > 计算机视觉与模式识别
[提交于 2025年6月2日
]
标题: R2SM:指代与推理用于选择性掩码
标题: R2SM: Referring and Reasoning for Selective Masks
摘要: 我们引入了一个新任务,称为指引用例和推理选择性蒙版(R2SM),它通过结合由用户意图驱动的蒙版类型选择扩展了文本引导的分割。 该任务挑战视觉语言模型,要求它们仅根据自然语言提示来确定是生成模态(可见)还是非模态(完整)分割蒙版。 为了支持R2SM任务,我们提出了R2SM数据集,该数据集通过增强COCOA-cls、D2SA和MUVA的注释构建而成。 R2SM数据集包括模态和非模态文本查询,每个查询都与相应的地面实况蒙版配对,使模型能够针对按用户意图分割图像的能力进行微调和评估。 具体而言,该任务要求模型解释给定提示是否仅指的是对象的可见部分,还是包括被遮挡区域在内的完整形状,然后生成适当的分割。 例如,如果提示明确请求部分隐藏对象的完整形状,则模型应输出一个非模态掩码以完成被遮挡的部分。 相比之下,没有明确提到隐藏区域的提示应该生成标准的模态掩码。 R2SM基准为推进多模态推理和意图感知分割的研究提供了具有挑战性和洞察力的测试平台。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.