计算机科学 > 计算机视觉与模式识别
[提交于 2025年6月2日
]
标题: STORM:使用综合序数回归数据集 benchmarking 多语言大模型的视觉评级
标题: STORM: Benchmarking Visual Rating of MLLMs with a Comprehensive Ordinal Regression Dataset
摘要: 视觉评分是人工智能(AI)对视觉内容进行多维量化的一项重要能力,主要应用于有序回归(OR)任务,如图像质量评估、人脸年龄估计和医学图像分级。 然而,当前的多模态大型语言模型(MLLMs)在这方面的视觉评分能力表现不佳,同时还面临着缺乏相关数据集和基准的问题。 在这项工作中,我们收集并发布了STORM,这是一个用于刺激MLLMs在通用视觉评分方面可信有序回归能力的数据集和基准。 STORM涵盖了五个常见视觉评分领域的14个有序回归数据集,包括655K张图像级对及其对应的精心策划的视觉问答(VQA)。 重要的是,我们还提出了一种粗到细的处理管道,该管道能够动态考虑标签候选者并提供可解释的思路,为MLLMs提供了通用且可信的有序思维范式。 此基准旨在评估MLLMs在理解评分标签的基本共同有序关系场景下的端到端和零样本性能。 广泛的实验验证了我们框架的有效性,并揭示了更好的微调策略。 STORM数据集、基准和预训练模型可在以下网页上获取,以支持该领域的进一步研究。 数据集和代码已在项目页面上发布:https://storm-bench.github.io/。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.