计算机科学 > 机器学习
[提交于 2025年10月29日
]
标题: 谱扰动界限用于低秩逼近及其在隐私中的应用
标题: Spectral Perturbation Bounds for Low-Rank Approximation with Applications to Privacy
摘要: 机器学习中的一个核心挑战是理解噪声或测量误差如何影响低秩逼近,尤其是在谱范数下。 这个问题在差分隐私低秩逼近中尤为重要,其中目标是在保持数据生成矩阵的顶部-$p$结构的同时确保隐私。 先前的工作通常分析Frobenius范数误差或重建质量的变化,但这些指标可能会高估或低估真实的子空间失真。 相比之下,谱范数可以捕捉最坏情况下的方向误差,并提供最强的效用保证。 我们建立了对称矩阵的新高概率谱范数扰动界限,改进了经典的Eckart--Young--Mirsky定理,并明确捕捉了矩阵 $A \in \mathbb{R}^{n \times n}$ 与任意对称扰动 $E$ 之间的相互作用。 在适度的特征间隔和范数条件下,我们的界为$\|(A + E)_p - A_p\|$提供了精确的估计,其中$A_p$是$A$的最佳秩-$p$逼近,改进幅度可达因子$\sqrt{n}$。 作为应用,我们推导了差分隐私主成分分析的改进效用保证,解决了文献中的一个开放问题。 我们的分析依赖于复分析中的一种新颖的轮廓自举方法,并将其扩展到包括多项式和矩阵指数在内的广泛谱泛函类。 在真实数据集上的实验结果证实,我们的界在多种扰动条件下紧密跟踪实际的谱误差。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.