Shape-Former: Bridging CNN and Transformer via ShapeConv for multimodal image matching

计算机科学 人工智能 卷积神经网络 模式识别(心理学) 变压器 特征学习 离群值 匹配(统计) 计算机视觉 数学 量子力学 统计 物理 电压
作者
Jiaxuan Chen,Xiaoming Chen,Shuang Chen,Yuyan Liu,Yujing Rao,Yang Yang,Haifeng Wang,Dan Wu
出处
期刊:Information Fusion [Elsevier]
卷期号:91: 445-457 被引量:32
标识
DOI:10.1016/j.inffus.2022.10.030
摘要

As with any data fusion task, the front-end of the pipeline for image fusion, aiming to collect multitudinous physical properties from multimodal images taken by different types of sensors, requires registering the overlapped content of two images via image matching. In other words, the accuracy of image matching will influence directly the subsequent fusion results. In this work, we propose a hybrid correspondence learning architecture, termed as Shape-Former, which is capable of solving matching problems such as multimodal, and multiview cases. Existing attempts have trouble capturing intricate feature interactions for seeking good correspondence, if the image pairs simultaneously suffer from geometric and radiation distortion. To address this, our key is to take advantage of convolutional neural network (CNN) and Transformer for enhancing structure consensus representation ability. Specifically, we introduce a novel ShapeConv so that CNN and Transformer can be generalized to sparse matches learning. Furthermore, we provide a robust soft estimation of outliers mechanism for filtering the response of outliers before capturing shape features. Finally, we also propose coupling multiple consensus representations to further solve the context conflict problems such as local ambiguity. Experiments with variety of datasets reveal that our Shape-Former outperforms state-of-the-art on multimodal image matching, and shows promising generalization ability to different types of image deformations.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
更新
大幅提高文件上传限制,最高150M (2024-4-1)

科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
易哲完成签到 ,获得积分10
7秒前
wx1完成签到 ,获得积分0
14秒前
蝌蚪完成签到,获得积分10
16秒前
苏青舟完成签到 ,获得积分10
22秒前
jameslee04完成签到 ,获得积分10
26秒前
fusheng完成签到 ,获得积分10
30秒前
lyp完成签到 ,获得积分10
31秒前
研友_LOKXmL完成签到 ,获得积分10
35秒前
浮生完成签到 ,获得积分10
38秒前
gaoxiaogao完成签到 ,获得积分10
42秒前
糖宝完成签到 ,获得积分10
43秒前
luckygirl完成签到 ,获得积分10
45秒前
钟声完成签到,获得积分0
53秒前
开放访天完成签到 ,获得积分10
1分钟前
所所应助科研通管家采纳,获得10
1分钟前
1分钟前
严珍珍完成签到 ,获得积分10
1分钟前
南风完成签到 ,获得积分10
1分钟前
GG完成签到 ,获得积分10
1分钟前
1分钟前
华理附院孙文博完成签到 ,获得积分10
1分钟前
韦雪莲完成签到 ,获得积分10
1分钟前
小杨完成签到 ,获得积分10
1分钟前
Nan发布了新的文献求助10
1分钟前
海豚完成签到 ,获得积分10
1分钟前
不知道叫个啥完成签到 ,获得积分10
1分钟前
段誉完成签到 ,获得积分10
1分钟前
二牛完成签到,获得积分10
1分钟前
czj完成签到 ,获得积分10
2分钟前
CLTTT完成签到,获得积分10
2分钟前
张大星完成签到 ,获得积分10
2分钟前
lyl19880908完成签到 ,获得积分10
2分钟前
知否完成签到 ,获得积分10
2分钟前
2分钟前
i好运完成签到,获得积分10
2分钟前
关关完成签到 ,获得积分10
2分钟前
lanxinge完成签到 ,获得积分10
2分钟前
i好运发布了新的文献求助10
2分钟前
求助完成签到,获得积分0
2分钟前
夏秋完成签到 ,获得积分10
2分钟前
高分求助中
좌파는 어떻게 좌파가 됐나:한국 급진노동운동의 형성과 궤적 2500
Sustainability in Tides Chemistry 1500
TM 5-855-1(Fundamentals of protective design for conventional weapons) 1000
Cognitive linguistics critical concepts in linguistics 800
Threaded Harmony: A Sustainable Approach to Fashion 799
Livre et militantisme : La Cité éditeur 1958-1967 500
氟盐冷却高温堆非能动余热排出性能及安全分析研究 500
热门求助领域 (近24小时)
化学 医学 生物 材料科学 工程类 有机化学 生物化学 物理 内科学 纳米技术 计算机科学 化学工程 复合材料 基因 遗传学 催化作用 物理化学 免疫学 量子力学 细胞生物学
热门帖子
关注 科研通微信公众号,转发送积分 3052652
求助须知:如何正确求助?哪些是违规求助? 2709863
关于积分的说明 7418267
捐赠科研通 2354446
什么是DOI,文献DOI怎么找? 1246020
科研通“疑难数据库(出版商)”最低求助积分说明 605951
版权声明 595921