ModalPatch: A Plug-and-Play Module for Robust Multi-Modal 3D Object Detection under Modality Drop

稳健性(进化) 计算机科学 目标检测 计算机视觉 人工智能 传感器融合 探测器 可靠性(半导体) 模态(人机交互) 高保真 忠诚 激光雷达 模式 对象(语法) 实时计算 辍学 同时定位和映射 可视化 钥匙(锁) 冗余(工程) 感知 测距 数据采集 自动化 视觉对象识别的认知神经科学 模式识别(心理学) 视频跟踪 偏移量(计算机科学) 下降(电信)
作者
Shuangzhi Li,Lei Ma,Xingyu Li
出处
期刊:Cornell University - arXiv [Cornell University]
摘要

Multi-modal 3D object detection is pivotal for autonomous driving, integrating complementary sensors like LiDAR and cameras. However, its real-world reliability is challenged by transient data interruptions and missing, where modalities can momentarily drop due to hardware glitches, adverse weather, or occlusions. This poses a critical risk, especially during a simultaneous modality drop, where the vehicle is momentarily blind. To address this problem, we introduce ModalPatch, the first plug-and-play module designed to enable robust detection under arbitrary modality-drop scenarios. Without requiring architectural changes or retraining, ModalPatch can be seamlessly integrated into diverse detection frameworks. Technically, ModalPatch leverages the temporal nature of sensor data for perceptual continuity, using a history-based module to predict and compensate for transiently unavailable features. To improve the fidelity of the predicted features, we further introduce an uncertainty-guided cross-modality fusion strategy that dynamically estimates the reliability of compensated features, suppressing biased signals while reinforcing informative ones. Extensive experiments show that ModalPatch consistently enhances both robustness and accuracy of state-of-the-art 3D object detectors under diverse modality-drop conditions.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
打打应助徐青书采纳,获得10
1秒前
机智篮球发布了新的文献求助30
1秒前
tanlaker完成签到,获得积分10
2秒前
sinlar发布了新的文献求助10
2秒前
隐形曼青应助wang采纳,获得10
3秒前
暮灯发布了新的文献求助10
4秒前
4秒前
KevenDing完成签到,获得积分10
5秒前
7秒前
8秒前
机智篮球完成签到,获得积分10
9秒前
Lucas应助orbitvox采纳,获得10
11秒前
何意味发布了新的文献求助10
12秒前
12秒前
明月照大江完成签到,获得积分10
13秒前
可爱多完成签到,获得积分10
13秒前
科研通AI6.4应助star采纳,获得10
14秒前
健忘白猫完成签到 ,获得积分10
14秒前
15秒前
makabaka发布了新的文献求助10
15秒前
沉默小土豆完成签到 ,获得积分10
15秒前
junzzz完成签到 ,获得积分10
16秒前
18秒前
19秒前
蹄蹄儿完成签到 ,获得积分10
20秒前
小二郎应助123采纳,获得10
20秒前
21秒前
HZW完成签到,获得积分10
21秒前
22秒前
23秒前
orbitvox发布了新的文献求助10
24秒前
wanci应助饶天源采纳,获得10
24秒前
研友_Z7QbzL完成签到,获得积分10
24秒前
25秒前
25秒前
科研通AI6.4应助别说了采纳,获得10
25秒前
satisusu完成签到 ,获得积分10
29秒前
路过地球发布了新的文献求助10
29秒前
潇洒的惋清应助515采纳,获得10
29秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
HYDROLYSE ACIDE DE QUELQUES DIOXASPIROCYCLANES 1314
Essentials of Carbohydrate Chemistry and Biochemistry, 4th Edition 800
Navigating Normative Orders. Interdisciplinary Perspectives 800
1 Peter and Christ's Descent to the Dead in Its Early Christian Reception 700
Organizational Behavior 510
Management and the Arts 510
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7747950
求助须知:如何正确求助?哪些是违规求助? 9296180
关于积分的说明 20233931
捐赠科研通 7329325
什么是DOI,文献DOI怎么找? 3308744
关于科研通互助平台的介绍 2460530
邀请新用户注册赠送积分活动 2320713