计算机科学 > 计算机视觉与模式识别
[提交于 2025年7月1日
(此版本)
, 最新版本 2025年7月2日 (v2)
]
标题: ExPaMoE:一种可扩展的并行专家混合模型用于持续测试时适应
标题: ExPaMoE: An Expandable Parallel Mixture of Experts for Continual Test-Time Adaptation
摘要: 持续测试时适应(CTTA)旨在使模型能够在不断变化的分布偏移下,实时适应未标记数据流。 然而,现有的CTTA方法通常依赖于所有领域共享的模型参数,这使得它们在面对大规模或非平稳领域偏移时容易受到特征纠缠和灾难性遗忘的影响。 为了解决这一限制,我们提出了\textbf{实验模型},一个基于\emph{可扩展的并行专家混合模型}架构的新框架。 ExPaMoE通过具有令牌引导特征分离的双分支专家设计,解耦领域通用和领域特定知识,并基于\emph{光谱感知在线域鉴别器}(SODD)动态扩展其专家池,该方法使用频域线索实时检测分布变化。 大量实验表明ExPaMoE在各种CTTA场景中表现出优越性。 我们在标准基准上评估了我们的方法,包括CIFAR-10C、CIFAR-100C、ImageNet-C和Cityscapes-to-ACDC用于语义分割。 此外,我们引入了\textbf{ImageNet++},一个大规模且现实的CTTA基准,该基准由多个ImageNet衍生数据集构建而成,以更好地反映复杂领域演变下的长期适应。 ExPaMoE始终优于先前方法,表现出强大的鲁棒性、可扩展性和抗遗忘能力。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.