计算机科学 > 计算机视觉与模式识别
[提交于 2025年7月1日
]
标题: UAVD-Mamba:用于多模态无人机检测的可变形标记融合视觉Mamba
标题: UAVD-Mamba: Deformable Token Fusion Vision Mamba for Multimodal UAV Detection
摘要: 无人机(UAV)目标检测已广泛应用于交通管理、农业、应急救援等领域。 然而,它面临着显著的挑战,包括遮挡、小目标尺寸和不规则形状。 这些挑战突显了对一种强大且高效的多模态无人机目标检测方法的必要性。 Mamba在多模态图像融合中表现出巨大的潜力。 利用这一点,我们提出了UAVD-Mamba,一种基于Mamba架构的多模态无人机目标检测框架。 为了提高几何适应性,我们提出了可变形标记Mamba块(DTMB),通过结合来自可变形卷积的自适应补丁和来自常规卷积的常规补丁来生成可变形标记,这些标记作为Mamba块的输入。 为了优化多模态特征互补性,我们为RGB和红外(IR)模态设计了两个独立的DTMB,两个DTMB的输出被整合到Mamba块中进行特征提取,并整合到融合Mamba块中进行特征融合。 此外,为了提高多尺度目标检测,特别是小目标的检测,我们在不同尺度上堆叠四个DTMB以生成多尺度特征表示,然后将这些特征发送到检测颈部进行Mamba(DNM)。 DNM模块受YOLO系列的启发,对YOLOv11中的SPPF和C3K2进行了修改,以更好地处理多尺度特征。 特别是,在DTMB之前我们采用了跨增强空间注意力,在融合Mamba块之后采用跨通道注意力,以提取更具区分性的特征。 在DroneVehicle数据集上的实验结果表明,我们的方法在mAP指标上比基线OAFA方法提高了3.6%。 代码将在https://github.com/GreatPlum-hnu/UAVD-Mamba.git发布。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.