Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > math > arXiv:0705.0269v1

帮助 | 高级搜索

数学 > 统计理论

arXiv:0705.0269v1 (math)
[提交于 2007年5月2日 ]

标题: 前向阶段回归和单调lasso

标题: Forward stagewise regression and the monotone lasso

Authors:Trevor Hastie, Jonathan Taylor, Robert Tibshirani, Guenther Walther
摘要: 我们研究了用于求解惩罚最小二乘回归问题的最小角回归和前向逐步算法。 在Efron、Hastie、Johnstone与Tibshirani(2004)中证明了,通过一个小修改后,最小角回归算法可以解决套索回归问题。 在这里,我们对增量前向逐步回归给出了一个类似的结论,表明它解决了强制单调性的套索问题的一个版本。 由此得出的一个推论如下:虽然套索在每单位增加的系数$\beta$的$L_1$-范数时能以最优方式减少残差平方和,但前向逐步方法则在每单位沿系数路径行进的$L_1$弧长上是最优的。 我们还研究了一个使套索的系数路径单调的条件,从而使得不同的算法一致。 最后,在涉及大量相关预测变量的模拟研究中,我们将套索和前向逐步算法进行了比较。
摘要: We consider the least angle regression and forward stagewise algorithms for solving penalized least squares regression problems. In Efron, Hastie, Johnstone & Tibshirani (2004) it is proved that the least angle regression algorithm, with a small modification, solves the lasso regression problem. Here we give an analogous result for incremental forward stagewise regression, showing that it solves a version of the lasso problem that enforces monotonicity. One consequence of this is as follows: while lasso makes optimal progress in terms of reducing the residual sum-of-squares per unit increase in $L_1$-norm of the coefficient $\beta$, forward stage-wise is optimal per unit $L_1$ arc-length traveled along the coefficient path. We also study a condition under which the coefficient paths of the lasso are monotone, and hence the different algorithms coincide. Finally, we compare the lasso and forward stagewise procedures in a simulation study involving a large number of correlated predictors.
评论: 发表于http://dx.doi.org/10.1214/07-EJS004,《电子统计期刊》(http://www.i-journals.org/ejs/)由数学统计研究所(http://www.imstat.org)出版
主题: 统计理论 (math.ST)
MSC 类: 62J99 (Primary) 62J07 (Secondary)
引用方式: arXiv:0705.0269 [math.ST]
  (或者 arXiv:0705.0269v1 [math.ST] 对于此版本)
  https://doi.org/10.48550/arXiv.0705.0269
通过 DataCite 发表的 arXiv DOI
期刊参考: IMS-EJS-EJS_2007_4
相关 DOI: https://doi.org/10.1214/07-EJS004
链接到相关资源的 DOI

提交历史

来自: Robert Tibshirani [查看电子邮件]
[v1] 星期三, 2007 年 5 月 2 日 12:21:59 UTC (189 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • 其他格式
查看许可
当前浏览上下文:
math.ST
< 上一篇   |   下一篇 >
新的 | 最近的 | 2007-05
切换浏览方式为:
math
stat
stat.TH

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号