Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > stat > arXiv:0711.4983

帮助 | 高级搜索

统计学 > 机器学习

arXiv:0711.4983 (stat)
[提交于 2007年11月30日 ]

标题: 一种用于压缩贝叶斯模型参数的方法及其在逻辑序列预测模型中的应用

标题: A Method for Compressing Parameters in Bayesian Models with Application to Logistic Sequence Prediction Models

Authors:Longhai Li, Radford M. Neal
摘要: 贝叶斯分类和回归中高阶交互作用的处理在很大程度上是不可行的,因为需要应用马尔可夫链蒙特卡洛(MCMC)方法,且参数数量会随着阶数的增加而迅速增长。 在本文中,我们展示了如何通过有效减少参数数量来使其可行,利用了对于所有训练案例来说许多交互作用具有相同值的事实。 我们的方法使用一个“压缩”参数来表示与所有训练案例具有相同值的一组模式相关的所有参数之和。 使用对称稳定分布作为原始参数的先验,我们可以轻松找到这些压缩参数的先验。 因此,在使用MCMC训练模型时,我们只需处理更少的压缩参数。 压缩参数的数量可能在考虑最高可能阶数之前就已经收敛。 在模型训练之后,我们可以根据需要将这些压缩参数拆分为原始参数,以对测试案例进行预测。 我们详细展示了如何对逻辑序列预测模型进行参数压缩。 在模拟数据和真实数据上的实验表明,我们的压缩方法确实可以大幅减少参数数量。
摘要: Bayesian classification and regression with high order interactions is largely infeasible because Markov chain Monte Carlo (MCMC) would need to be applied with a great many parameters, whose number increases rapidly with the order. In this paper we show how to make it feasible by effectively reducing the number of parameters, exploiting the fact that many interactions have the same values for all training cases. Our method uses a single ``compressed'' parameter to represent the sum of all parameters associated with a set of patterns that have the same value for all training cases. Using symmetric stable distributions as the priors of the original parameters, we can easily find the priors of these compressed parameters. We therefore need to deal only with a much smaller number of compressed parameters when training the model with MCMC. The number of compressed parameters may have converged before considering the highest possible order. After training the model, we can split these compressed parameters into the original ones as needed to make predictions for test cases. We show in detail how to compress parameters for logistic sequence prediction models. Experiments on both simulated and real data demonstrate that a huge number of parameters can indeed be reduced by our compression method.
评论: 29页
主题: 机器学习 (stat.ML) ; 方法论 (stat.ME)
引用方式: arXiv:0711.4983 [stat.ML]
  (或者 arXiv:0711.4983v1 [stat.ML] 对于此版本)
  https://doi.org/10.48550/arXiv.0711.4983
通过 DataCite 发表的 arXiv DOI
期刊参考: Bayesian Analysis, 2008, 3(4), 793-822
相关 DOI: https://doi.org/10.1214/08-BA330
链接到相关资源的 DOI

提交历史

来自: Longhai Li [查看电子邮件]
[v1] 星期五, 2007 年 11 月 30 日 17:24:41 UTC (89 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
stat.ML
< 上一篇   |   下一篇 >
新的 | 最近的 | 2007-11
切换浏览方式为:
stat
stat.ME

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者

1 博客链接

(这是什么?)
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号