计算机科学 > 信息检索
[提交于 2025年10月8日
]
标题: 探索推理:一种在图上进行检索和生成的统一方法
标题: Reasoning by Exploration: A Unified Approach to Retrieval and Generation over Graphs
摘要: 在结构化图上进行推理仍然是大型语言模型(LLMs)的一个基本挑战,尤其是在扩展到大型图时。现有方法通常遵循检索增强生成(RAG)范式:首先检索与查询相关的子图,然后在检索到的子图基础上生成答案。然而,这种两阶段的流程往往难以忠实地融入图结构,因为生成过程最终受限于检索到的子图的质量和完整性。尽管最近提出了许多先进的检索器来缓解这个问题,但它们通常针对训练图进行优化,在未见过的图上泛化能力较差,这限制了它们的实际应用。在本工作中,我们提出了探索推理(RoE),这是一种新颖的方法,通过将图上的推理视为图探索过程,统一了检索和生成。在每一步,LLM会选择要探索的候选节点和边,逐步构建推理路径并在过程中生成答案。为了实现有效的探索,RoE分为两个阶段进行训练:首先在黄金推理路径上进行监督微调(SFT),然后通过强化学习(RL)来提高探索效果和泛化能力。在基准数据集上的实验表明,RoE在基线方法上实现了显著的整体改进,同时也能有效地泛化到未见过的图。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.