计算机科学 > 计算与语言
[提交于 2025年5月28日
]
标题: LLM摘要中的文档估值:集群Shapley方法
标题: Document Valuation in LLM Summaries: A Cluster Shapley Approach
摘要: 大型语言模型(LLMs)越来越多地被用于检索和汇总来自多个来源的内容的系统中,例如搜索引擎和人工智能助手。 尽管这些模型通过生成连贯的摘要提升了用户体验,但它们模糊了原始内容创作者的贡献,引发了关于功劳归属和补偿的问题。 我们解决了评估LLM生成的摘要中使用的单个文档价值的挑战。 我们提议使用Shapley值,这是一种基于每篇文档边际贡献来分配功劳的游戏论方法。 虽然理论上很有吸引力,但在大规模计算Shapley值成本高昂。 因此,我们提出了Cluster Shapley,一种利用文档之间语义相似性的高效近似算法。 通过使用基于LLM的嵌入聚类文档并在集群级别计算Shapley值,我们的方法显著减少了计算量,同时保持了功劳归属的质量。 我们在亚马逊产品评论的摘要任务中展示了我们的方法。 Cluster Shapley显著降低了计算复杂度,同时保持了高精度,在效率前沿方面优于基线方法,例如蒙特卡洛抽样和Kernel SHAP。 我们的方法与所用的具体LLM、所用的摘要过程以及评估程序无关,这使其广泛适用于各种摘要设置。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.