Multimodal Collaborative Interactive Soft Fusion Network for RGB-Infrared Aerial Image Object Detection

计算机科学 稳健性(进化) 人工智能 特征提取 特征(语言学) 航空影像 目标检测 RGB颜色模型 计算机视觉 背景(考古学) 模式识别(心理学) 传感器融合 特征检测(计算机视觉) 图像融合 特征学习 一般化 上下文模型 光学(聚焦) 深度学习 人工神经网络 模态(人机交互) 融合 噪音(视频) 机器学习 多通道交互
作者
Bei Cheng,Bowen Xu,Wenjie Gan,Qingwang Wang
出处
期刊:IEEE Journal of Selected Topics in Applied Earth Observations and Remote Sensing [Institute of Electrical and Electronics Engineers]
卷期号:19: 3206-3218 被引量:4
标识
DOI:10.1109/jstars.2025.3648023
摘要

Multimodal object detection plays a crucial role in all-weather and multi-scene applications of aerial imagery. Existing studies mainly focus on multimodal fusion and inter-level feature interaction during feature extraction, that is, correcting or enhancing dual-branch weights through fused features or multimodal interactions, while neglecting the supplementation of missing modality features. This limitation can lead to noise propagation across layers and a reduction in interaction capability caused by feature absence. In this paper, we propose a Multimodal Collaborative Interactive Soft Fusion Network (MCISFNet) for RGB-infrared aerial image object detection. The proposed method introduces a Saliency-guided Multimodal Soft Fusion Mechanism (SMSFM), which explicitly directs attention to and enhances critical regions, dynamically adjusts feature weights, and integrates complementary information to mitigate the problem of missing data in dual-branch representations. To address the complexity of aerial scenarios, we further develop a Multi-scale Interactive Gating Module (MIGM) that explicitly incorporates multi-scale contextual information, enabling fine-grained refinement of primary modality features and enhancing the discriminability of fused representations. Moreover, we design a Cross-modal Global Context Collaborative Modeling (CGCCM) strategy, in which a cross-modal shared branch is constructed to jointly perform context extraction and feature fusion. This collaborative design not only improves the alignment of deep semantic features but also ensures that the learned RGB and IR features are more consistent and complementary, while reducing computational cost. Extensive experiments conducted on three multimodal aerial image detection datasets (DroneVehicle, VEDAI, and ODinMJ) demonstrate the robustness and generalization capability of the proposed MCISFNet framework.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
衡阳完成签到 ,获得积分10
刚刚
caocao完成签到,获得积分10
2秒前
南京喵科大学完成签到 ,获得积分10
2秒前
北落完成签到 ,获得积分10
3秒前
青年才俊发布了新的文献求助50
3秒前
合适的尔冬完成签到 ,获得积分10
4秒前
wheat给焱垚的求助进行了留言
6秒前
洛必达完成签到,获得积分10
7秒前
7秒前
7秒前
嘻嘻哈哈的应助被Diablo947采纳,获得10
7秒前
syy完成签到 ,获得积分10
12秒前
12秒前
13秒前
WShYHh完成签到,获得积分10
13秒前
penguin完成签到,获得积分10
14秒前
14秒前
15秒前
粥大大完成签到 ,获得积分10
16秒前
17秒前
爱始终年轻完成签到,获得积分10
18秒前
芒草lx发布了新的文献求助10
18秒前
19秒前
Akim的应助被zhangxu采纳,获得10
19秒前
20秒前
20秒前
丘比特的应助被幽默的冰之采纳,获得10
20秒前
20秒前
啾啾完成签到 ,获得积分10
21秒前
21秒前
解冰珍完成签到 ,获得积分10
21秒前
Maestro_S的应助被weihua采纳,获得10
23秒前
Gp1983发布了新的文献求助50
23秒前
kkxxxz完成签到,获得积分10
23秒前
VitoLi发布了新的文献求助10
23秒前
fengqiwu发布了新的文献求助10
23秒前
3237924531完成签到,获得积分10
24秒前
yxx完成签到,获得积分10
26秒前
26秒前
山俗发布了新的文献求助10
27秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1080
Encyclopedia of Modern Artificial Intelligence 1000
Особенности технологий и методов информационно-психологических войн СССР с Великобританией и США в период 1939-1953 гг 1000
Das Matthäusevangelium: Kapitel 1:1–17 1000
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Cellulose and Cellulose Derivatives: Synthesis, Modification and Applications 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8143508
求助须知:如何正确求助?哪些是违规求助? 9542931
关于积分的说明 21654782
捐赠科研通 7728876
什么是DOI,文献DOI怎么找? 3422053
关于科研通互助平台的介绍 2547404
邀请新用户注册赠送积分活动 2464899