计算机科学 > 计算机视觉与模式识别
[提交于 2025年7月3日
]
标题: DexVLG:大规模灵活视觉-语言-抓取模型
标题: DexVLG: Dexterous Vision-Language-Grasp Model at Scale
摘要: 随着大型模型的兴起,视觉-语言-动作(VLA)系统正在使机器人能够处理越来越复杂的任务。 然而,由于数据收集的难度,进展主要集中在控制简单的夹爪末端执行器上。 关于使用大型模型进行类人灵巧手的功能性抓取的研究很少。 在本文中,我们引入了 DexVLG,一个大型视觉-语言-抓取模型,用于使用单视角RGBD输入与语言指令对齐的灵巧抓取姿态预测。 为了完成这项工作,我们生成了一个包含1.7亿个灵巧抓取姿态的数据集,这些姿态映射到174,000个物体的语义部分,并配有详细的部件级描述。 这个大规模数据集,名为DexGraspNet 3.0,用于训练一个视觉语言模型和基于流匹配的抓取姿态头部,能够为桌面物体生成与指令对齐的抓取姿态。 为了评估DexVLG的性能,我们创建了基于物理的模拟基准并进行了现实世界实验。 大量测试表明DexVLG具有强大的零样本泛化能力——在模拟中实现了超过76%的零样本执行成功率,并达到了最先进的部件抓取准确率,在现实世界场景中成功实现了部件对齐的抓取。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.