统计学 > 机器学习
[提交于 2025年7月10日
]
标题: Hess-MC2:使用Hessian信息和二阶提议的顺序蒙特卡洛平方
标题: Hess-MC2: Sequential Monte Carlo Squared using Hessian Information and Second Order Proposals
摘要: 在使用序贯蒙特卡罗(SMC)方法进行贝叶斯推断时,有两个考虑因素:后验近似的准确性以及计算效率。 为解决计算需求,序贯蒙特卡罗平方(SMC$^2$)非常适合高性能计算(HPC)环境。 在SMC$^2$中,提议分布的设计可以提高准确性和后验探索能力,因为较差的提议可能导致重要性权重的方差较高和粒子退化。 马尔可夫调整朗之万算法(MALA)使用梯度信息,使粒子优先探索高概率区域。 在本文中,我们通过引入二阶信息,特别是对数目标的海森矩阵,扩展了这一想法。 虽然二阶提议之前已在粒子马尔可夫链蒙特卡罗(p-MCMC)方法中被研究过,但我们在SMC$^2$框架中首次引入了它们。 二阶提议不仅使用梯度(一阶导数),还使用目标分布的曲率(二阶导数)。 在合成模型上的实验结果表明,与其它提议相比,我们的方法在步长选择和后验近似准确性方面具有优势。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.