Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2506.02671

帮助 | 高级搜索

计算机科学 > 计算机视觉与模式识别

arXiv:2506.02671 (cs)
[提交于 2025年6月3日 ]

标题: 小帮助,大飞跃:使用 AdaptNet 的视觉-语言模型高效测试时自适应

标题: Small Aid, Big Leap: Efficient Test-Time Adaptation for Vision-Language Models with AdaptNet

Authors:Xiao Chen, Jiazhen Huang, Qinting Jiang, Fanding Huang, Xianghua Fu, Jingyan Jiang, Zhi Wang
摘要: 测试时适应(TTA)已成为提高视觉-语言模型(VLMs)推理阶段泛化能力的关键技术。然而,现有的方法通常伴随着显著的计算开销,并且扩展性较差,主要原因是样本级别的适应粒度以及对昂贵辅助设计(如数据增强)的依赖。为了解决这些局限性,我们提出了SAIL(Small Aid, Big Leap),这是一种基于适配器的新颖TTA框架,利用轻量级可学习的AdaptNet实现高效且可扩展的模型适应。作为SAIL的核心,一个冻结的预训练VLM通过基于置信度的插值权重与AdaptNet协作,在推理过程中生成鲁棒预测。这些预测用作自监督目标,通过高效的批量处理来对齐AdaptNet的输出,从而大幅降低计算成本,而无需修改VLM或需要内存缓存。为了减轻连续适应过程中的灾难性遗忘,我们提出了一种基于梯度漂移指示器(GDI)的梯度感知重置策略,该策略能够动态检测领域转换并战略性地重置AdaptNet以确保稳定适应。在两种场景下的多个基准测试中进行了广泛的实验,结果显示SAIL达到了最先进的性能,同时保持了较低的计算成本。这些结果凸显了SAIL在实际部署中的有效性、效率和可扩展性。代码将在接受后发布。
摘要: Test-time adaptation (TTA) has emerged as a critical technique for enhancing the generalization capability of vision-language models (VLMs) during inference. However, existing approaches often incur substantial computational costs and exhibit poor scalability, primarily due to sample-wise adaptation granularity and reliance on costly auxiliary designs such as data augmentation. To address these limitations, we introduce SAIL (Small Aid, Big Leap), a novel adapter-based TTA framework that leverages a lightweight, learnable AdaptNet to enable efficient and scalable model adaptation. As SAIL's core, a frozen pre-trained VLM collaborates with AdaptNet through a confidence-based interpolation weight, generating robust predictions during inference. These predictions serve as self-supervised targets to align AdaptNet's outputs through efficient batch-wise processing, dramatically reducing computational costs without modifying the VLM or requiring memory caches. To mitigate catastrophic forgetting during continual adaptation, we propose a gradient-aware reset strategy driven by a gradient drift indicator (GDI), which dynamically detects domain transitions and strategically resets AdaptNet for stable adaptation. Extensive experiments across diverse benchmarks on two scenarios demonstrate that SAIL achieves state-of-the-art performance while maintaining low computational costs. These results highlight SAIL's effectiveness, efficiency and scalability for real-world deployment. The code will be released upon acceptance.
主题: 计算机视觉与模式识别 (cs.CV)
引用方式: arXiv:2506.02671 [cs.CV]
  (或者 arXiv:2506.02671v1 [cs.CV] 对于此版本)
  https://doi.org/10.48550/arXiv.2506.02671
通过 DataCite 发表的 arXiv DOI(待注册)

提交历史

来自: Jiazhen Huang [查看电子邮件]
[v1] 星期二, 2025 年 6 月 3 日 09:16:51 UTC (5,780 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
cs.CV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-06
切换浏览方式为:
cs

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号