计算机科学 > 计算机视觉与模式识别
[提交于 2025年8月1日
]
标题: AniMer+:通过家族感知变压器在哺乳动物和鸟类中统一姿态和形状估计
标题: AniMer+: Unified Pose and Shape Estimation Across Mammalia and Aves via Family-Aware Transformer
摘要: 在基础模型的时代,通过单一网络实现对不同动态物体的统一理解,有可能增强更强的空间智能。 此外,在生物研究中,对不同物种的动物姿态和形状进行准确估计对于定量分析至关重要。 然而,由于之前方法的网络容量有限以及全面多物种数据集的稀缺,这一主题仍研究不足。 为解决这些限制,我们引入了AniMer+,这是我们可扩展的AniMer框架的扩展版本。 在本文中,我们专注于重建哺乳动物(哺乳纲)和鸟类(鸟纲)的统一方法。 AniMer+的一个关键创新是其高容量、家族感知的视觉变换器(ViT),结合了专家混合(MoE)设计。 其架构将网络层划分为分类群特定组件(针对哺乳动物和鸟类)和分类群共享组件,使单一模型中能够高效学习独特的和共同的解剖特征。 为克服3D训练数据的严重短缺,尤其是鸟类的数据,我们引入了一个基于扩散的条件图像生成流程。 该流程生成两个大规模的合成数据集:CtrlAni3D用于四足动物,CtrlAVES3D用于鸟类。 需要注意的是,CtrlAVES3D是第一个大规模的、3D标注的鸟类数据集,这对于解决单视角深度歧义至关重要。 在包含41.3k哺乳动物和12.4k鸟类图像(结合真实和合成数据)的聚合数据集上进行训练,我们的方法在广泛的基准测试中表现出优于现有方法的性能,包括具有挑战性的跨领域Animal Kingdom数据集。 消融研究表明,我们新颖的网络架构和生成的合成数据集在提高现实应用性能方面是有效的。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.