计算机科学 > 机器学习
[提交于 2024年12月3日
(v1)
,最后修订 2025年7月18日 (此版本, v2)]
标题: VA-MoE:用于增量天气预报的变量自适应专家混合模型
标题: VA-MoE: Variables-Adaptive Mixture of Experts for Incremental Weather Forecasting
摘要: 本文提出了变量自适应专家混合(VAMoE),这是一种新颖的增量天气预报框架,能够实时动态适应实时数据中的演变时空模式。 传统的天气预测模型常常在高昂的计算开销以及随着新观测数据到达而持续更新预测的需求上面临挑战。 VAMoE通过利用专家的混合架构来解决这些问题,其中每个专家专门用于捕捉大气变量(温度、湿度、风速)的不同子模式。 此外,所提出的方法采用变量自适应门控机制,根据输入上下文动态选择和组合相关专家,从而实现高效的知识蒸馏和参数共享。 这种设计显著降低了计算开销,同时保持了高预测准确性。 在真实世界ERA5数据集上的实验表明,VAMoE在短期(1天)和长期(5天)预测任务中表现与最先进模型相当,仅使用约25%的可训练参数和50%的初始训练数据。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.