Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2506.21458v1

帮助 | 高级搜索

计算机科学 > 人工智能

arXiv:2506.21458v1 (cs)
[提交于 2025年6月26日 ]

标题: 从有限视角的空间心理建模

标题: Spatial Mental Modeling from Limited Views

Authors:Baiqiao Yin, Qineng Wang, Pingyue Zhang, Jianshu Zhang, Kangrui Wang, Zihan Wang, Jieyu Zhang, Keshigeyan Chandrasegaran, Han Liu, Ranjay Krishna, Saining Xie, Manling Li, Jiajun Wu, Li Fei-Fei
摘要: 视觉语言模型(VLMs)能否像人类一样,仅从几个视角就想象出完整的场景? 人类会形成空间心理模型,即对未看到的空间的内部表示,以推理布局、视角和运动。 我们新的MindCube基准测试包含3,268张图像中的21,154个问题,揭示了这一关键差距,现有VLMs的表现接近随机。 使用MindCube,我们系统地评估VLMs通过表示位置(认知制图)、方向(视角代入)和动态(“假设”移动的心理模拟)来构建稳健空间心理模型的效果。 然后,我们探索了三种方法来帮助VLMs近似空间心理模型,包括未见过的中间视角、自然语言推理链和认知地图。 显著的提升来自于一种协同方法,“先制图后推理”,该方法联合训练模型首先生成一个认知地图,然后在其上进行推理。 通过训练模型在这些内部地图上进行推理,我们将准确率从37.8%提高到了60.8%(+23.0%)。 添加强化学习进一步提升了性能至70.7%(+32.9%)。 我们的关键见解是,这种空间心理模型的支撑,主动构建并利用带有灵活推理过程的内部结构化空间表示,显著提高了对不可观测空间的理解。
摘要: Can Vision Language Models (VLMs) imagine the full scene from just a few views, like humans do? Humans form spatial mental models, internal representations of unseen space, to reason about layout, perspective, and motion. Our new MindCube benchmark with 21,154 questions across 3,268 images exposes this critical gap, where existing VLMs exhibit near-random performance. Using MindCube, we systematically evaluate how well VLMs build robust spatial mental models through representing positions (cognitive mapping), orientations (perspective-taking), and dynamics (mental simulation for "what-if" movements). We then explore three approaches to help VLMs approximate spatial mental models, including unseen intermediate views, natural language reasoning chains, and cognitive maps. The significant improvement comes from a synergistic approach, "map-then-reason", that jointly trains the model to first generate a cognitive map and then reason upon it. By training models to reason over these internal maps, we boosted accuracy from 37.8% to 60.8% (+23.0%). Adding reinforcement learning pushed performance even further to 70.7% (+32.9%). Our key insight is that such scaffolding of spatial mental models, actively constructing and utilizing internal structured spatial representations with flexible reasoning processes, significantly improves understanding of unobservable space.
评论: 预印本版本
主题: 人工智能 (cs.AI) ; 计算与语言 (cs.CL); 计算机视觉与模式识别 (cs.CV)
引用方式: arXiv:2506.21458 [cs.AI]
  (或者 arXiv:2506.21458v1 [cs.AI] 对于此版本)
  https://doi.org/10.48550/arXiv.2506.21458
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Qineng Wang [查看电子邮件]
[v1] 星期四, 2025 年 6 月 26 日 16:38:19 UTC (29,451 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • TeX 源代码
  • 其他格式
查看许可
当前浏览上下文:
cs.AI
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-06
切换浏览方式为:
cs
cs.CL
cs.CV

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号