计算机科学 > 机器学习
[提交于 2025年6月26日
]
标题: RL-Selector:通过冗余评估的强化学习引导数据选择
标题: RL-Selector: Reinforcement Learning-Guided Data Selection via Redundancy Assessment
摘要: 现代深度架构通常依赖大规模数据集,但在这类数据集上进行训练会带来高昂的计算和存储开销。 现实世界的数据集通常包含大量冗余,这促使需要更高效的数据训练范式。 数据选择已被证明可以通过识别最具代表性的样本来减轻冗余,从而在不损害性能的情况下降低训练成本。 现有方法通常依赖静态评分指标或预训练模型,忽视了所选样本及其在训练过程中动态变化的综合影响。 我们引入了epsilon样本覆盖的概念,该概念基于样本间的关系量化样本冗余,捕捉数据集的内在结构。 基于此,我们将数据选择重新表述为强化学习(RL)过程,并提出RL-Selector,其中轻量级的RL代理通过利用从动态数据集分布中得出的epsilon样本覆盖作为奖励信号来优化选择策略。 在基准数据集和多种架构上的广泛实验表明,我们的方法始终优于现有的最先进基线。 使用我们选择的数据集训练的模型表现出增强的泛化性能并提高了训练效率。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.