计算机科学 > 分布式、并行与集群计算
[提交于 2025年6月26日
]
标题: 区块:用于高效大语言模型服务的区块链支持的跨库知识共享
标题: BLOCKS: Blockchain-supported Cross-Silo Knowledge Sharing for Efficient LLM Services
摘要: 大型语言模型(LLMs)的幻觉问题日益引起关注。 将外部知识引入LLMs是一种解决此问题的有前景的方法。 然而,由于隐私和安全问题,大量与下游任务相关的知识仍然分散并孤立在各个“孤岛”中,使得难以访问。 为了弥合这一知识差距,我们提出了一种基于区块链的外部知识框架,协调多个知识孤岛,为大型模型检索提供可靠的基础知识,同时确保数据安全。 技术上,我们将本地数据中的知识提炼为提示,并在区块链上执行交易和记录。 此外,我们引入了声誉机制和交叉验证,以确保知识质量并为参与提供激励。 此外,我们设计了一个查询生成框架,为大型模型检索提供直接的API接口。 为了评估所提出的框架性能,我们在各种知识源上进行了广泛的实验。 结果表明,所提出的框架在区块链环境中实现了高效的LLM服务知识共享。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.