数学 > 统计理论
[提交于 2025年6月14日
]
标题: 一种易于调节的鲁棒稀疏高维线性回归方法
标题: An Easily Tunable Approach to Robust and Sparse High-Dimensional Linear Regression
摘要: 稀疏线性回归方法(如 Lasso)需要一个依赖于噪声方差的调整参数,而噪声方差通常是未知且难以在实践中估计的。 在重尾噪声或对抗性异常值存在的情况下,这个问题变得更加困难。 本文提出了一种用于鲁棒和稀疏线性回归的估计器,消除了对噪声尺度显式先验知识的需求。 我们的方法基于 Huber 损失,并结合了一种迭代方案,该方案交替进行系数估计和通过均值中位数的自适应噪声校准。 该方法具有理论基础,在子高斯噪声和重尾噪声假设下均能实现尖锐的非渐近误差界。 此外,所提出的方法能够容纳响应中的任意异常值污染,而无需事先知道异常值的数量或稀疏水平。 虽然先前的鲁棒估计器避免了与噪声尺度或稀疏性相关的调整参数,但当异常值数量未知时,我们的程序达到了可比的误差界;当异常值数量已知时,达到了改进的误差界。 特别是,改进的误差界在常数因子范围内匹配已知的 minimax 下界。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.