计算机科学 > 计算机视觉与模式识别
[提交于 2025年6月25日
(v1)
,最后修订 2025年6月26日 (此版本, v2)]
标题: 通过基础模型组合实现可扩展和通用的地球观测数据挖掘
标题: Towards Scalable and Generalizable Earth Observation Data Mining via Foundation Model Composition
摘要: 基础模型正在迅速改变地球观测数据挖掘,通过为场景分类和语义分割等关键任务提供可泛化和可扩展的解决方案。 尽管地理空间领域大多数努力都集中在使用大量地球观测数据集从头开始训练大型模型,但一种尚未得到充分探索的替代策略是重用和组合现有的预训练模型。 在本研究中,我们调查了在遥感和通用视觉数据集上预训练的基础模型是否可以有效结合,以提高一系列关键地球观测任务的性能。 使用GEO-Bench基准,我们在覆盖多种空间分辨率、传感器模态和任务类型的十一个数据集上评估了几种著名模型,包括Prithvi、Hiera和DOFA。 结果表明,较小的预训练模型的特征级集成可以达到或超过更大模型的性能,同时需要更少的训练时间和计算资源。 此外,该研究突出了应用知识蒸馏将集成的优势转移到更紧凑模型中的潜力,为在实际地球观测应用中部署基础模型提供了可行的路径。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.