计算机科学 > 计算机视觉与模式识别
[提交于 2025年7月1日
(v1)
,最后修订 2025年7月2日 (此版本, v2)]
标题: ExPaMoE:一种可扩展的并行专家混合模型用于持续测试时适应
标题: ExPaMoE: An Expandable Parallel Mixture of Experts for Continual Test-Time Adaptation
摘要: 持续测试时间适应(CTTA)旨在使模型能够在分布变化不断演化的条件下,实时适应未标记数据流。 然而,现有的CTTA方法通常依赖于所有领域共享的模型参数,这使得它们在面对大规模或非平稳领域变化时容易受到特征纠缠和灾难性遗忘的影响。 为了解决这一限制,我们提出了ExPaMoE,这是一种基于可扩展并行专家混合架构的新框架。 ExPaMoE通过具有令牌引导特征分离的双分支专家设计,解耦领域通用和领域特定知识,并基于基于频域线索实时检测分布变化的谱感知在线领域鉴别器(SODD),动态扩展其专家池。 大量实验表明,ExPaMoE在多种CTTA场景中表现出优越性。 我们在包括CIFAR-10C、CIFAR-100C、ImageNet-C和Cityscapes-to-ACDC在内的标准基准上评估了我们的方法,用于语义分割。 此外,我们引入了ImageNet++,这是一个大规模且真实的CTTA基准,由多个ImageNet衍生数据集构建而成,以更好地反映复杂领域演变下的长期适应。 ExPaMoE始终优于先前方法,表现出强大的鲁棒性、可扩展性和抗遗忘能力。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.