Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > stat > arXiv:2205.02617v1

帮助 | 高级搜索

统计学 > 方法论

arXiv:2205.02617v1 (stat)
[提交于 2022年5月5日 (此版本) , 最新版本 2023年11月25日 (v3) ]

标题: COMBSS:通过连续优化的最佳子集选择

标题: COMBSS: Best Subset Selection via Continuous Optimization

Authors:Sarat Moka, Benoit Liquet, Houying Zhu, Samuel Muller
摘要: 我们考虑线性回归中的最佳子集选择问题,其中目标是为每个模型大小$k$找到最佳拟合响应的$k$个特征的子集。 当可用特征总数相对于数据样本数量非常大时,这尤其具有挑战性。 我们提出了 COMBSS,一种基于连续优化的新方法,可以直接解决线性回归中的最佳子集选择问题。 COMBSS 被证明非常快速,可能使特征数量远远超过数千时的最佳子集选择成为可能。 通过模拟结果展示了 COMBSS 在与现有的流行非穷举方法(如向前逐步选择和 Lasso)以及穷举方法(如混合整数优化)进行比较时的性能。 由于整体性能优异,将最佳子集选择问题表述为连续优化问题为各种回归模型的特征提取开辟了新的研究方向。
摘要: We consider the problem of best subset selection in linear regression, where the goal is to find for every model size $k$, that subset of $k$ features that best fits the response. This is particularly challenging when the total available number of features is very large compared to the number of data samples. We propose COMBSS, a novel continuous optimization based method that directly solves the best subset selection problem in linear regression. COMBSS turns out to be very fast, potentially making best subset selection possible when the number of features is well in excess of thousands. Simulation results are presented to highlight the performance of COMBSS in comparison to existing popular non-exhaustive methods such as Forward Stepwise and the Lasso, as well as for exhaustive methods such as Mixed-Integer Optimization. Because of the outstanding overall performance, framing the best subset selection challenge as a continuous optimization problem opens new research directions for feature extraction for a large variety of regression models.
主题: 方法论 (stat.ME) ; 计算 (stat.CO)
引用方式: arXiv:2205.02617 [stat.ME]
  (或者 arXiv:2205.02617v1 [stat.ME] 对于此版本)
  https://doi.org/10.48550/arXiv.2205.02617
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Sarat Babu Moka [查看电子邮件]
[v1] 星期四, 2022 年 5 月 5 日 12:56:01 UTC (6,604 KB)
[v2] 星期五, 2022 年 6 月 3 日 23:48:11 UTC (4,918 KB)
[v3] 星期六, 2023 年 11 月 25 日 04:28:01 UTC (3,980 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • 其他格式
许可图标 查看许可
当前浏览上下文:
stat.ME
< 上一篇   |   下一篇 >
新的 | 最近的 | 2022-05
切换浏览方式为:
stat
stat.CO

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号