统计学 > 机器学习
[提交于 2025年10月1日
]
标题: 风险相变在尖峰回归中的表现:对齐驱动的良性过拟合和灾难性过拟合
标题: Risk Phase Transitions in Spiked Regression: Alignment Driven Benign and Catastrophic Overfitting
摘要: 本文分析了在尖峰协方差数据模型下最小范数插值解的泛化误差。 本文描述了尖峰强度和目标-尖峰对齐的变化如何影响风险,尤其是在过参数化设置中。 该研究给出了泛化误差的精确表达式,根据尖峰强度、纵横比$c=d/n$(特别是$c \to \infty$)和目标对齐情况,对良性、温和和灾难性过拟合区域进行了全面分类。 值得注意的是,在正确指定的对齐问题中,增加尖峰强度可能会在达到良性过拟合之前引发灾难性过拟合。 本文还揭示了目标-尖峰对齐并不总是有利的,指出了其有益或有害的具体有时甚至出人意料的条件。 与尖峰对齐不利的情况在非线性模型中被实证证明仍然存在。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.