Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2509.01215

帮助 | 高级搜索

计算机科学 > 计算机视觉与模式识别

arXiv:2509.01215 (cs)
[提交于 2025年9月1日 ]

标题: POINTS-Reader:用于文档转换的视觉-语言模型的无蒸馏适应

标题: POINTS-Reader: Distillation-Free Adaptation of Vision-Language Models for Document Conversion

Authors:Yuan Liu, Zhongyin Zhao, Le Tian, Haicheng Wang, Xubing Ye, Yangxiu You, Zilin Yu, Chuhan Wu, Xiao Zhou, Yang Yu, Jie Zhou
摘要: 高质量的标注数据对于训练准确的文档转换模型至关重要,特别是在表格、公式和多列文本等复杂格式的领域。 然而,手动标注既昂贵又耗时,而使用现有模型进行自动标注在处理这些具有挑战性的情况时往往缺乏准确性。 因此,通过蒸馏教师模型的输出来训练学生模型,可能会显著限制其在实际应用中的性能。 在本文中,我们提出了一种完全自动化、无需蒸馏的框架,包括两个阶段,用于构建能够处理各种文档格式和布局的高质量文档提取数据集和模型。 在第一阶段,我们引入了一种生成大规模、多样化的合成数据的方法,这使得模型能够在统一格式中提取关键元素,并具有强大的初始性能。 在第二阶段,我们提出了一种自我改进的方法,进一步将最初在合成数据上训练的模型适应到现实世界的文档中。 具体来说,我们首先使用微调后的模型对真实文档进行标注,然后应用一套过滤策略来验证标注质量,最后在验证后的数据集上重新训练模型。 通过反复重复这一过程,我们逐步提高模型的转换能力和生成数据的质量。 我们训练了一个公开的 POINTS-1.5 模型以获得 POINTS-Reader,该模型超越了许多现有公共和专有模型,这些模型的规模相当或更大。 我们的模型可在 https://github.com/Tencent/POINTS-Reader 获取。
摘要: High-quality labeled data is essential for training accurate document conversion models, particularly in domains with complex formats such as tables, formulas, and multi-column text. However, manual annotation is both costly and time-consuming, while automatic labeling using existing models often lacks accuracy in handling such challenging scenarios. Consequently, training student models by distilling outputs from teacher models can significantly limit their performance in real-world applications. In this paper, we propose a fully automated, distillation-free framework comprising two stages for constructing high-quality document extraction datasets and models capable of handling diverse document formats and layouts. In the first stage, we introduce a method for generating large-scale, diverse synthetic data, which enables a model to extract key elements in a unified format with strong initial performance. In the second stage, we present a self-improvement approach that further adapts the model, initially trained on synthetic data, to real-world documents. Specifically, we first use the fine-tuned model to annotate real documents, then apply a suite of filtering strategies to verify annotation quality, and finally retrain the model on the verified dataset. By iteratively repeating this process, we progressively enhance both the model's conversion capabilities and the quality of the generated data. We train a public POINTS-1.5 model to obtain POINTS-Reader, which surpasses many existing public and proprietary models of comparable or larger size. Our model is available at https://github.com/Tencent/POINTS-Reader.
评论: 被EMNLP 2025主会议接受
主题: 计算机视觉与模式识别 (cs.CV)
引用方式: arXiv:2509.01215 [cs.CV]
  (或者 arXiv:2509.01215v1 [cs.CV] 对于此版本)
  https://doi.org/10.48550/arXiv.2509.01215
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Yuan Liu [查看电子邮件]
[v1] 星期一, 2025 年 9 月 1 日 07:54:18 UTC (6,694 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
cs.CV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-09
切换浏览方式为:
cs

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号