计算机科学 > 计算机视觉与模式识别
[提交于 2025年6月3日
]
标题: 小帮助,大飞跃:使用 AdaptNet 的视觉-语言模型高效测试时自适应
标题: Small Aid, Big Leap: Efficient Test-Time Adaptation for Vision-Language Models with AdaptNet
摘要: 测试时适应(TTA)已成为提高视觉-语言模型(VLMs)推理阶段泛化能力的关键技术。然而,现有的方法通常伴随着显著的计算开销,并且扩展性较差,主要原因是样本级别的适应粒度以及对昂贵辅助设计(如数据增强)的依赖。为了解决这些局限性,我们提出了SAIL(Small Aid, Big Leap),这是一种基于适配器的新颖TTA框架,利用轻量级可学习的AdaptNet实现高效且可扩展的模型适应。作为SAIL的核心,一个冻结的预训练VLM通过基于置信度的插值权重与AdaptNet协作,在推理过程中生成鲁棒预测。这些预测用作自监督目标,通过高效的批量处理来对齐AdaptNet的输出,从而大幅降低计算成本,而无需修改VLM或需要内存缓存。为了减轻连续适应过程中的灾难性遗忘,我们提出了一种基于梯度漂移指示器(GDI)的梯度感知重置策略,该策略能够动态检测领域转换并战略性地重置AdaptNet以确保稳定适应。在两种场景下的多个基准测试中进行了广泛的实验,结果显示SAIL达到了最先进的性能,同时保持了较低的计算成本。这些结果凸显了SAIL在实际部署中的有效性、效率和可扩展性。代码将在接受后发布。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.