计算机科学 > 计算与语言
[提交于 2025年8月21日
]
标题: KG-EDAS:一种用于评估知识图谱补全模型的元度量框架
标题: KG-EDAS: A Meta-Metric Framework for Evaluating Knowledge Graph Completion Models
摘要: 知识图谱(KGs)在语义搜索、推荐系统和自然语言处理等多个领域中都有应用。 KGs通常不完整,缺少实体和关系,这一问题通过知识图谱补全(KGC)方法来解决,这些方法可以预测缺失的元素。 常用的评估指标包括平均倒数排名(MRR)、平均排名(MR)和Hit@k,用于评估此类KGC模型的性能。 然而,评估KGC模型的一个主要挑战在于在多个数据集和指标之间比较其性能。 一个模型可能在一个数据集上优于其他模型,但在另一个数据集中表现较差,这使得确定整体优势变得困难。 此外,即使在单个数据集中,不同的指标如MRR和Hit@1也可能产生冲突的排名,其中一个模型在MRR上表现优异,而另一个模型在Hit@1上表现更好,这进一步增加了下游任务中模型选择的复杂性。 这些不一致性阻碍了全面的比较,并突显了需要一种统一的元指标,该指标能够整合所有指标和数据集上的性能,以实现更可靠和可解释的评估框架。 为了解决这一需求,我们提出了基于平均解距离的知识图谱评估(EDAS),这是一种稳健且可解释的元指标,能够将多个数据集和多样化的评估标准下的模型性能综合成一个归一化分数($M_i \in [0,1]$)。 与传统指标仅关注性能的孤立方面不同,EDAS提供了一个全局视角,支持更明智的模型选择,并促进了跨数据集评估的公平性。 在基准数据集如FB15k-237和WN18RR上的实验结果表明,EDAS能够有效地将多指标、多数据集的性能整合到一个统一的排名中,为评估KGC模型提供了一个一致、稳健且可推广的框架。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.