计算机科学 > 信息论
[提交于 2016年3月28日
]
标题: 秩一矩阵估计中的互信息
标题: Mutual Information in Rank-One Matrix Estimation
摘要: 我们考虑从已知带有噪声且可能是非线性逐元素测量的 xxT 的知识来估计一个 n 维向量 x,这是一个非常通用的问题,包含例如: 随机二块模型、子矩阵定位或随机矩阵的尖峰扰动。 我们使用由 Guerra 提出并由 Korada 和 Macris 后续改进的插值方法。 我们证明了 Bethe 互信息(与 Bethe 自由能相关,并被 Lesieur 等人基于非严谨的空腔方法推测为精确值)总是给出确切互信息的上界。 我们还用类似技术提供了下界。 为了具体说明,我们在稀疏 PCA 问题上展示了我们的发现,并观察到 (a) 在一大类参数范围内我们的上下界匹配;(b) 存在一个谱信息无用的区域存在相变。 虽然我们仅展示了秩一对称矩阵估计的情况,但我们的证明技术可以轻松扩展到低秩对称矩阵或低秩对称张量估计。
当前浏览上下文:
cs.IT
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.