Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > stat > arXiv:1208.2572

帮助 | 高级搜索

统计学 > 机器学习

arXiv:1208.2572 (stat)
[提交于 2012年8月13日 ]

标题: 非参数稀疏性和正则化

标题: Nonparametric sparsity and regularization

Authors:Lorenzo Rosasco, Silvia Villa, Sofia Mosci, Matteo Santoro, Alessandro verri
摘要: 在这项工作中,我们关注的是当输入-输出依赖关系由少数变量的非线性函数描述时,监督学习和变量选择问题。 我们的目标是考虑一个稀疏的非参数模型,因此避免了线性或加性模型。 关键思想是通过利用偏导数来衡量模型中每个变量的重要性。 基于这一直觉,我们提出了一个新的非参数稀疏性的概念以及相应的最小二乘正则化方案。 利用再生核希尔伯特空间和近似方法理论中的概念和结果,我们证明所提出的学习算法对应于一个可以通过迭代过程可证求解的最小化问题。 所得到估计量的一致性性质在预测和选择性能方面都进行了研究。 广泛的实证分析表明,所提出的方法相对于最先进的方法表现出色。
摘要: In this work we are interested in the problems of supervised learning and variable selection when the input-output dependence is described by a nonlinear function depending on a few variables. Our goal is to consider a sparse nonparametric model, hence avoiding linear or additive models. The key idea is to measure the importance of each variable in the model by making use of partial derivatives. Based on this intuition we propose a new notion of nonparametric sparsity and a corresponding least squares regularization scheme. Using concepts and results from the theory of reproducing kernel Hilbert spaces and proximal methods, we show that the proposed learning algorithm corresponds to a minimization problem which can be provably solved by an iterative procedure. The consistency properties of the obtained estimator are studied both in terms of prediction and selection performance. An extensive empirical analysis shows that the proposed method performs favorably with respect to the state-of-the-art methods.
评论: 45页,11幅图
主题: 机器学习 (stat.ML) ; 机器学习 (cs.LG); 优化与控制 (math.OC)
引用方式: arXiv:1208.2572 [stat.ML]
  (或者 arXiv:1208.2572v1 [stat.ML] 对于此版本)
  https://doi.org/10.48550/arXiv.1208.2572
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Silvia Villa [查看电子邮件]
[v1] 星期一, 2012 年 8 月 13 日 13:02:33 UTC (242 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
stat.ML
< 上一篇   |   下一篇 >
新的 | 最近的 | 2012-08
切换浏览方式为:
cs
cs.LG
math
math.OC
stat

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号