计算机科学 > 机器学习
[提交于 2025年7月16日
]
标题: 一种具有神经网络参数的非平稳高斯过程框架
标题: A Framework for Nonstationary Gaussian Processes with Neural Network Parameters
摘要: 高斯过程因其灵活性和不确定性量化而成为非参数回归的流行工具。 然而,它们通常使用平稳核,这限制了模型的表达能力,并可能不适合许多数据集。 我们提出了一种框架,使用其参数在特征空间中变化的非平稳核,将这些参数建模为以特征作为输入的神经网络的输出。 神经网络和高斯过程通过链式法则计算导数进行联合训练。 我们的方法清晰地描述了非平稳参数的行为,并与用于扩展到大型数据集的近似方法兼容。 它具有灵活性,并且可以轻松适应不同的非平稳核,而无需重新设计优化过程。 我们的方法使用GPyTorch库实现,可以轻松修改。 我们在几个机器学习数据集上测试了我们方法的非平稳方差和噪声变体,发现其准确性以及对数得分均优于平稳模型和使用变分推理近似的分层模型。 对于仅具有非平稳方差的模型,也观察到了类似的结果。 我们还展示了我们的方法恢复空间数据的非平稳参数的能力。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.