统计学 > 机器学习
[提交于 2018年10月12日
(v1)
,最后修订 2020年2月26日 (此版本, v5)]
标题: 神经网络中的不确定性:近似贝叶斯集成
标题: Uncertainty in Neural Networks: Approximately Bayesian Ensembling
摘要: 理解神经网络(NN)预测的不确定性对于许多目的都是至关重要的。贝叶斯框架为此提供了一种合理的方法,然而由于参数和数据数量庞大,将其应用于NNs具有挑战性。集成NNs提供了一种易于实现且可扩展的不确定性量化方法,然而它一直受到批评,因为它不是贝叶斯的。这项工作提出对通常过程的一个修改,我们认为这确实会导致近似贝叶斯推理;对从可以设置为先验分布中抽取的值进行参数正则化。在简化设置中的理论分析表明,恢复的后验分布中心是正确的,但倾向于低估边缘方差并高估相关性。然而,两个条件可能导致精确恢复。我们认为这些条件在NNs中部分存在。实证评估表明它比标准集成有优势,并且与变分方法相当。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.