Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2510.25571

帮助 | 高级搜索

计算机科学 > 机器学习

arXiv:2510.25571 (cs)
[提交于 2025年10月29日 ]

标题: 噪声下的低秩逆近似扰动界

标题: Perturbation Bounds for Low-Rank Inverse Approximations under Noise

Authors:Phuc Tran, Nisheeth K. Vishnoi
摘要: 低秩伪逆在可扩展机器学习、优化和科学计算中被广泛用于逼近矩阵逆。 然而,现实世界的矩阵通常会受到噪声的影响,这些噪声来源于采样、草图和量化。 低秩逆逼近的谱范数鲁棒性仍然理解不足。 我们系统地研究了对于一个$n\times n$对称矩阵$A$的谱范数误差$\| (\tilde{A}^{-1})_p - A_p^{-1} \|$,其中$A_p^{-1}$表示$A^{-1}$的最佳秩\(p\)逼近,而$\tilde{A} = A + E$是一个噪声观测值。 在对噪声的温和假设下,我们推导出精确的非渐近扰动界,揭示了误差如何随着特征值间隙、谱衰减以及噪声与$A$低曲率方向的对齐程度而变化。 我们的分析引入了对\emph{非整函数}函数$f(z) = 1/z$的一种新颖的积分技术应用,得出的界限比经典全逆界的简单适应方法提高了多达$\sqrt{n}$倍。 实证上,我们的界限在各种真实和合成矩阵中紧密跟踪真实的扰动误差,而基于经典结果的估计则往往显著高估。 这些发现为嘈杂计算环境中的低秩逆近似提供了实用且谱感知的保证。
摘要: Low-rank pseudoinverses are widely used to approximate matrix inverses in scalable machine learning, optimization, and scientific computing. However, real-world matrices are often observed with noise, arising from sampling, sketching, and quantization. The spectral-norm robustness of low-rank inverse approximations remains poorly understood. We systematically study the spectral-norm error $\| (\tilde{A}^{-1})_p - A_p^{-1} \|$ for an $n\times n$ symmetric matrix $A$, where $A_p^{-1}$ denotes the best rank-\(p\) approximation of $A^{-1}$, and $\tilde{A} = A + E$ is a noisy observation. Under mild assumptions on the noise, we derive sharp non-asymptotic perturbation bounds that reveal how the error scales with the eigengap, spectral decay, and noise alignment with low-curvature directions of $A$. Our analysis introduces a novel application of contour integral techniques to the \emph{non-entire} function $f(z) = 1/z$, yielding bounds that improve over naive adaptations of classical full-inverse bounds by up to a factor of $\sqrt{n}$. Empirically, our bounds closely track the true perturbation error across a variety of real-world and synthetic matrices, while estimates based on classical results tend to significantly overpredict. These findings offer practical, spectrum-aware guarantees for low-rank inverse approximations in noisy computational environments.
评论: 神经信息处理系统大会 2025
主题: 机器学习 (cs.LG) ; 数据结构与算法 (cs.DS); 数值分析 (math.NA); 谱理论 (math.SP); 统计理论 (math.ST)
引用方式: arXiv:2510.25571 [cs.LG]
  (或者 arXiv:2510.25571v1 [cs.LG] 对于此版本)
  https://doi.org/10.48550/arXiv.2510.25571
通过 DataCite 发表的 arXiv DOI(待注册)

提交历史

来自: Nisheeth Vishnoi [查看电子邮件]
[v1] 星期三, 2025 年 10 月 29 日 14:40:12 UTC (492 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
许可图标 查看许可
当前浏览上下文:
cs.LG
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-10
切换浏览方式为:
cs
cs.DS
cs.NA
math
math.NA
math.SP
math.ST
stat
stat.TH

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号