计算机科学 > 机器学习
[提交于 2025年7月14日
]
标题: 神经网络的图充分性视角
标题: A Graph Sufficiency Perspective for Neural Networks
摘要: 本文通过图变量和统计充分性分析神经网络。 我们将神经网络层解释为基于图的变换,其中神经元作为输入和学习到的锚点之间的成对函数。 在此框架下,我们建立了层输出对于层输入是充分的条件,即每一层保留给定输入变量的目标变量的条件分布。 在密集锚点假设下,我们证明了在无限宽度极限下渐近充分性成立,并在整个训练过程中得到保持。 为了更接近实际架构,我们进一步表明,通过假设区域分离的输入分布并构建适当的锚点,有限宽度网络也可以实现充分性。 我们的框架涵盖了全连接层、一般成对函数、ReLU和sigmoid激活函数以及卷积神经网络。 这项工作将统计充分性、图论表示和深度学习联系起来,为神经网络提供了一种新的统计理解。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.