统计学 > 机器学习
[提交于 2024年12月5日
]
标题: 路径优化方法用于桥型估计量及其应用
标题: Pathwise optimization for bridge-type estimators and its applications
摘要: 稀疏参数模型在统计学习中具有重要意义,并且通常通过正则化估计量进行分析。 路径方法允许高效计算惩罚估计量的完整解路径,对于惩罚参数$\lambda$的任何可能值。 在本文中,我们研究桥型问题的路径优化;即,我们感兴趣的是最小化一个损失函数,如负对数似然或残差平方和,加上涉及自适应系数的$\ell^q$范数之和,其中$q\in(0,1]$涉及自适应系数。 对于某些损失函数,这种正则化可以达到渐近的 oracle 属性(如选择一致性)。 然而,由于目标函数包含非凸和不可微项,最小化问题在计算上具有挑战性。 本文的目的是应用一些来自非凸优化理论的通用算法,以高效计算具有多重惩罚的自适应桥估计量的路径解。 特别是,我们考虑两种不同的方法:加速邻近梯度下降和块状交替优化。 讨论了这些算法的收敛性和路径一致性。 为了评估我们的方法,我们将这些算法应用于在离散时间观测到的扩散过程的惩罚估计。 后者是时间依赖数据统计领域的一个最新研究课题。
当前浏览上下文:
stat.TH
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.