Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > stat > arXiv:1402.1267

帮助 | 高级搜索

统计学 > 机器学习

arXiv:1402.1267 (stat)
[提交于 2014年2月6日 (v1) ,最后修订 2015年3月13日 (此版本, v3)]

标题: 在具有不断增加的聚类数和子矩阵的数量的植入问题和子矩阵定位中的统计计算权衡

标题: Statistical-Computational Tradeoffs in Planted Problems and Submatrix Localization with a Growing Number of Clusters and Submatrices

Authors:Yudong Chen, Jiaming Xu
摘要: 我们考虑两个密切相关的两个问题:已植入的聚类问题和次矩阵定位问题。 已植入的聚类问题假设随机图是基于某些潜在的节点簇生成的;任务是在给定图的情况下恢复这些簇。 次矩阵定位问题涉及在一个大的实数值随机矩阵内部定位隐藏的均值升高的次矩阵。 特别感兴趣的是这样一个设定:允许簇/子矩阵的数量随问题规模无界增长。 这些公式涵盖了几个经典的模型,如已植入的团问题、已植入的最密集子图问题、已植入的划分问题、已植入的着色问题和随机块模型,这些模型广泛用于研究社区检测和聚类/双聚类。 对于这两个问题,我们表明模型参数(簇/子矩阵大小、簇密度和子矩阵均值)的空间可以被划分为四个互不相交的区域,对应于统计复杂性和计算复杂性的递减:(1)\emph{不可能}区域,在此区域内所有算法都失败;(2)\emph{硬}区域,在此区域内计算量大的最大似然估计(MLE)成功;(3)\emph{简单的}区域,在此区域内多项式时间凸化MLE成功;(4)\emph{简单}区域,在此区域内简单的计数/阈值处理成功。 此外,我们证明了每个这些算法在之前更难的区域中理论上都会失败。 我们的定理建立了渐近最优恢复界限,这个界限在常数上紧致,并且随着簇/子矩阵数量的增长而成立,同时为多项式时间算法提供了比已知更强的性能保证。 我们的研究表明了统计与计算考虑因素之间的权衡,并表明渐近最优恢复界限可能无法由多项式时间算法实现。
摘要: We consider two closely related problems: planted clustering and submatrix localization. The planted clustering problem assumes that a random graph is generated based on some underlying clusters of the nodes; the task is to recover these clusters given the graph. The submatrix localization problem concerns locating hidden submatrices with elevated means inside a large real-valued random matrix. Of particular interest is the setting where the number of clusters/submatrices is allowed to grow unbounded with the problem size. These formulations cover several classical models such as planted clique, planted densest subgraph, planted partition, planted coloring, and stochastic block model, which are widely used for studying community detection and clustering/bi-clustering. For both problems, we show that the space of the model parameters (cluster/submatrix size, cluster density, and submatrix mean) can be partitioned into four disjoint regions corresponding to decreasing statistical and computational complexities: (1) the \emph{impossible} regime, where all algorithms fail; (2) the \emph{hard} regime, where the computationally expensive Maximum Likelihood Estimator (MLE) succeeds; (3) the \emph{easy} regime, where the polynomial-time convexified MLE succeeds; (4) the \emph{simple} regime, where a simple counting/thresholding procedure succeeds. Moreover, we show that each of these algorithms provably fails in the previous harder regimes. Our theorems establish the minimax recovery limit, which are tight up to constants and hold with a growing number of clusters/submatrices, and provide a stronger performance guarantee than previously known for polynomial-time algorithms. Our study demonstrates the tradeoffs between statistical and computational considerations, and suggests that the minimax recovery limit may not be achievable by polynomial-time algorithms.
评论: 我们更新了定理2.1和2.3的陈述。部分结果曾在2014年国际机器学习会议(ICML)上发表。
主题: 机器学习 (stat.ML) ; 统计理论 (math.ST)
引用方式: arXiv:1402.1267 [stat.ML]
  (或者 arXiv:1402.1267v3 [stat.ML] 对于此版本)
  https://doi.org/10.48550/arXiv.1402.1267
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Jiaming Xu [查看电子邮件]
[v1] 星期四, 2014 年 2 月 6 日 07:58:38 UTC (50 KB)
[v2] 星期一, 2014 年 2 月 17 日 18:17:32 UTC (50 KB)
[v3] 星期五, 2015 年 3 月 13 日 19:54:55 UTC (57 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
stat.ML
< 上一篇   |   下一篇 >
新的 | 最近的 | 2014-02
切换浏览方式为:
math
math.ST
stat
stat.TH

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号