统计学 > 方法论
[提交于 2025年7月21日
]
标题: 基于模型平均的合理性迁移学习
标题: Sufficiency-principled Transfer Learning via Model Averaging
摘要: 当可转移集合不可知时,尽可能传递信息性知识的\textemdash 一个我们称之为\emph{充分性}的原则,对于提高迁移学习效果变得至关重要。 然而,现有的迁移学习方法不仅忽视了充分性原则,还依赖于限制性的单一相似性假设(\eg 个体或组合相似性),导致性能次优。 为了解决这些限制,我们通过统一模型平均算法提出了一种基于充分性原则的迁移学习框架,能够同时适应个体和组合相似性。 理论上,我们建立了多源线性回归模型在参数数量发散情况下的渐近/高概率最优性、增强的收敛速度和渐近正态性,实现了充分性、对负迁移的鲁棒性、隐私保护和可行的统计推断。 广泛的模拟和对北京住房租金数据的经验分析证明了我们的框架相对于传统方法的优越性。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.