统计学 > 机器学习
[提交于 2025年10月16日
]
标题: 从通用逼近定理到多层感知机的热带几何
标题: From Universal Approximation Theorem to Tropical Geometry of Multi-Layer Perceptrons
摘要: 我们通过神经网络的热带几何视角重新审视通用逼近定理(UAT),并为sigmoid多层感知器(MLP)引入一种构造性、几何感知的初始化方法。 热带几何表明,修正线性单元(ReLU)网络的决策函数具有通常描述为热带有理式的组合结构,即热带多项式的差。 专注于平面二分类,我们设计了纯粹的sigmoid MLP,它们遵循UAT的有限和格式:仿射函数的平移和缩放sigmoid的有限线性组合。 这些模型产生的决策边界在初始化时就已经与预定形状对齐,如果需要的话可以通过标准训练进行优化。 这提供了一种将热带视角与平滑MLP之间联系起来的实用桥梁,无需使用ReLU架构即可实现可解释的、形状驱动的初始化。 我们专注于二维空间中的构造和经验演示;理论分析和高维扩展留作未来的工作。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.