计算机科学 > 分布式、并行与集群计算
[提交于 2025年6月4日
(v1)
,最后修订 2025年6月18日 (此版本, v2)]
标题: 一种高效的无候选项R-S集相似连接算法:基于过滤与验证树和MapReduce
标题: An Efficient Candidate-Free R-S Set Similarity Join Algorithm with the Filter-and-Verification Tree and MapReduce
摘要: 给定两个不同的集合族,精确的集合相似性R-S连接(R-S Join)找到所有相似度不低于给定阈值的集合对,这在广泛的应用中有重要意义。 尽管现有的算法利用两阶段过滤与验证框架以及并行和分布式MapReduce框架来加速大规模R-S连接,但它们会受到过多候选集对的影响,导致显著的I/O、数据传输和验证开销,并最终降低性能。 本文提出了全新的无候选集的R-S连接(CF-RS-Join)算法,通过过滤与验证树(FVT)及其线性变体(LFVT)将过滤和验证整合到单个阶段。 首先,提出了基于FVT的CF-RS-Join(CF-RS-Join/FVT),利用创新的FVT结构,在内存中压缩元素和相关集合,实现单阶段处理,消除候选集生成、快速查找和减少数据库扫描。 给出了正确性证明。 其次,提出了基于LFVT的CF-RS-Join(CF-RS-Join/LFVT),利用更紧凑的线性FVT,将非分支路径压缩为单个节点并存储在优化的线性数组中。 第三,提出了MR-CF-RS-Join/FVT和MR-CF-RS-Join/LFVT,利用MapReduce扩展我们的方法以实现并行处理。 在7个真实世界的数据集上进行了实验研究,评估所提出的算法在执行时间、可扩展性、内存使用和磁盘使用方面相对于选定现有算法的性能。 实验结果表明,使用MapReduce的算法,即MR-CF-RS-Join/LFVT,表现出最佳性能。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.