Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > math > arXiv:1602.06896

帮助 | 高级搜索

数学 > 统计理论

arXiv:1602.06896 (math)
[提交于 2016年2月22日 ]

标题: 在相关性下的PCA中精确检测:所有特征值都重要

标题: Sharp detection in PCA under correlations: all eigenvalues matter

Authors:Edgar Dobriban
摘要: 主成分分析(PCA)是一种广泛用于降维的方法。 在高维数据中,对应于弱主成分(PCs)的“信号”特征值不一定与“噪声”特征值的总体分离。 因此,基于最大特征值的流行检验对检测弱PCs的效力有限。 在spiked模型的特殊情况下,某些与线性谱统计量(LSS)渐近等价的检验——对所有特征值进行平均效应——最近被证明可以实现一定的效力。 我们考虑了Marchenko和Pastur(1967)设定下的spiked模型的非参数、非高斯推广。 这允许噪声特征值的一般总体,即使在没有显著PCs的零假设下也能容纳相关变量。 我们在该模型中开发了基于LSS的新检验来检测弱PCs。 我们使用LSS的中心极限定理(CLT)证明最优的LSS满足第一类弗雷德霍姆积分方程。 我们开发了求解它的算法,基于我们最近计算极限经验谱的方法。 与标准的spiked模型不同,我们在“广泛分布”的零特征值分布下发现新检验具有很大的效力。
摘要: Principal component analysis (PCA) is a widely used method for dimension reduction. In high dimensional data, the "signal" eigenvalues corresponding to weak principal components (PCs) do not necessarily separate from the bulk of the "noise" eigenvalues. Therefore, popular tests based on the largest eigenvalue have little power to detect weak PCs. In the special case of the spiked model, certain tests asymptotically equivalent to linear spectral statistics (LSS)---averaging effects over all eigenvalues---were recently shown to achieve some power. We consider a nonparametric, non-Gaussian generalization of the spiked model to the setting of Marchenko and Pastur (1967). This allows a general bulk of the noise eigenvalues, accomodating correlated variables even under the null hypothesis of no significant PCs. We develop new tests based on LSS to detect weak PCs in this model. We show using the CLT for LSS that the optimal LSS satisfy a Fredholm integral equation of the first kind. We develop algorithms to solve it, building on our recent method for computing the limit empirical spectrum. In contrast to the standard spiked model, we find that under "widely spread" null eigenvalue distributions, the new tests have a lot of power.
评论: 46页,9图
主题: 统计理论 (math.ST)
MSC 类: 62H25
引用方式: arXiv:1602.06896 [math.ST]
  (或者 arXiv:1602.06896v1 [math.ST] 对于此版本)
  https://doi.org/10.48550/arXiv.1602.06896
通过 DataCite 发表的 arXiv DOI
期刊参考: Ann. Statist. Volume 45, Number 4 (2017), 1810-1833
相关 DOI: https://doi.org/10.1214/16-AOS1514
链接到相关资源的 DOI

提交历史

来自: Edgar Dobriban [查看电子邮件]
[v1] 星期一, 2016 年 2 月 22 日 19:11:28 UTC (859 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
math.ST
< 上一篇   |   下一篇 >
新的 | 最近的 | 2016-02
切换浏览方式为:
math
stat
stat.TH

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号