Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2507.00502v2

帮助 | 高级搜索

计算机科学 > 计算机视觉与模式识别

arXiv:2507.00502v2 (cs)
[提交于 2025年7月1日 (v1) ,最后修订 2025年7月2日 (此版本, v2)]

标题: ExPaMoE:一种可扩展的并行专家混合模型用于持续测试时适应

标题: ExPaMoE: An Expandable Parallel Mixture of Experts for Continual Test-Time Adaptation

Authors:JianChao Zhao, Chenhao Ding, Songlin Dong, Yuhang He, Yihong Gong
摘要: 持续测试时间适应(CTTA)旨在使模型能够在分布变化不断演化的条件下,实时适应未标记数据流。 然而,现有的CTTA方法通常依赖于所有领域共享的模型参数,这使得它们在面对大规模或非平稳领域变化时容易受到特征纠缠和灾难性遗忘的影响。 为了解决这一限制,我们提出了ExPaMoE,这是一种基于可扩展并行专家混合架构的新框架。 ExPaMoE通过具有令牌引导特征分离的双分支专家设计,解耦领域通用和领域特定知识,并基于基于频域线索实时检测分布变化的谱感知在线领域鉴别器(SODD),动态扩展其专家池。 大量实验表明,ExPaMoE在多种CTTA场景中表现出优越性。 我们在包括CIFAR-10C、CIFAR-100C、ImageNet-C和Cityscapes-to-ACDC在内的标准基准上评估了我们的方法,用于语义分割。 此外,我们引入了ImageNet++,这是一个大规模且真实的CTTA基准,由多个ImageNet衍生数据集构建而成,以更好地反映复杂领域演变下的长期适应。 ExPaMoE始终优于先前方法,表现出强大的鲁棒性、可扩展性和抗遗忘能力。
摘要: Continual Test-Time Adaptation (CTTA) aims to enable models to adapt on-the-fly to a stream of unlabeled data under evolving distribution shifts. However, existing CTTA methods typically rely on shared model parameters across all domains, making them vulnerable to feature entanglement and catastrophic forgetting in the presence of large or non-stationary domain shifts. To address this limitation, we propose ExPaMoE, a novel framework based on an Expandable Parallel Mixture-of-Experts architecture. ExPaMoE decouples domain-general and domain-specific knowledge via a dual-branch expert design with token-guided feature separation, and dynamically expands its expert pool based on a Spectral-Aware Online Domain Discriminator (SODD) that detects distribution changes in real-time using frequency-domain cues. Extensive experiments demonstrate the superiority of ExPaMoE across diverse CTTA scenarios. We evaluate our method on standard benchmarks including CIFAR-10C, CIFAR-100C, ImageNet-C, and Cityscapes-to-ACDC for semantic segmentation. Additionally, we introduce ImageNet++, a large-scale and realistic CTTA benchmark built from multiple ImageNet-derived datasets, to better reflect long-term adaptation under complex domain evolution. ExPaMoE consistently outperforms prior arts, showing strong robustness, scalability, and resistance to forgetting.
主题: 计算机视觉与模式识别 (cs.CV)
引用方式: arXiv:2507.00502 [cs.CV]
  (或者 arXiv:2507.00502v2 [cs.CV] 对于此版本)
  https://doi.org/10.48550/arXiv.2507.00502
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Jianchao Zhao [查看电子邮件]
[v1] 星期二, 2025 年 7 月 1 日 07:17:33 UTC (397 KB)
[v2] 星期三, 2025 年 7 月 2 日 11:38:41 UTC (397 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
cs.CV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-07
切换浏览方式为:
cs

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号