计算机科学 > 计算机视觉与模式识别
[提交于 2025年6月26日
(v1)
,最后修订 2025年7月16日 (此版本, v2)]
标题: DRISHTIKON:文档中多粒度的视觉定位
标题: DRISHTIKON: Visual Grounding at Multiple Granularities in Documents
摘要: 文本丰富文档图像中的视觉定位是文档智能和视觉问答(VQA)系统中一个关键但研究不足的挑战。 我们提出了DRISHTIKON,一种多粒度和多块的视觉定位框架,旨在增强复杂、多语言文档中VQA的可解释性和信任度。 我们的方法结合了多语言OCR、大语言模型和一种新颖的区域匹配算法,以在块、行、词和点级别定位答案片段。 我们引入了 多粒度视觉定位(MGVG)基准,这是一个精心整理的测试集,包含来自不同领域的多样化圆形通知,每个都经过人工标注,在多个粒度上具有细粒度的人工验证标签。 大量实验表明,我们的方法实现了最先进的定位准确性,其中行级粒度在精度和召回率之间提供了最佳平衡。 消融研究进一步突显了多块和多行推理的好处。 比较评估显示,领先的视觉语言模型在精确定位方面存在困难,这强调了我们结构化、对齐方法的有效性。 我们的研究结果为在具有多粒度定位支持的真实世界、以文本为中心的场景中更强大和可解释的文档理解系统铺平了道路。 代码和数据集已提供给未来的研究。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.