计算机科学 > 机器学习
[提交于 2025年10月29日
]
标题: 噪声下的低秩逆近似扰动界
标题: Perturbation Bounds for Low-Rank Inverse Approximations under Noise
摘要: 低秩伪逆在可扩展机器学习、优化和科学计算中被广泛用于逼近矩阵逆。 然而,现实世界的矩阵通常会受到噪声的影响,这些噪声来源于采样、草图和量化。 低秩逆逼近的谱范数鲁棒性仍然理解不足。 我们系统地研究了对于一个$n\times n$对称矩阵$A$的谱范数误差$\| (\tilde{A}^{-1})_p - A_p^{-1} \|$,其中$A_p^{-1}$表示$A^{-1}$的最佳秩\(p\)逼近,而$\tilde{A} = A + E$是一个噪声观测值。 在对噪声的温和假设下,我们推导出精确的非渐近扰动界,揭示了误差如何随着特征值间隙、谱衰减以及噪声与$A$低曲率方向的对齐程度而变化。 我们的分析引入了对\emph{非整函数}函数$f(z) = 1/z$的一种新颖的积分技术应用,得出的界限比经典全逆界的简单适应方法提高了多达$\sqrt{n}$倍。 实证上,我们的界限在各种真实和合成矩阵中紧密跟踪真实的扰动误差,而基于经典结果的估计则往往显著高估。 这些发现为嘈杂计算环境中的低秩逆近似提供了实用且谱感知的保证。
当前浏览上下文:
cs.LG
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.