Plug-and-Play General Image Registration for Misaligned Multi-Modal Image Fusion

计算机视觉 图像融合 图像配准 人工智能 计算机科学 图像(数学) 情态动词 图像处理 化学 高分子化学
作者
Tianheng Zheng,Guanglu Dong,Pingping Zhang,Xiaohai He,Chao Ren
出处
期刊:IEEE Transactions on Circuits and Systems for Video Technology [Institute of Electrical and Electronics Engineers]
卷期号:35 (10): 10017-10031 被引量:1
标识
DOI:10.1109/tcsvt.2025.3570530
摘要

Contemporary works in multi-modal image fusion often excessively rely on aligned source images, resulting in limited practicality when encountering misaligned data. However, there is still a significant gap in developing effective multimodal image registration methods to address this problem. Moreover, existing multi-modal image registration models are largely restricted to specific types of multi-modal data, lacking a general model applicable to diverse multi-modal data types. To address th above issues, this study introduces a novel method named PGMR, which stands as the first plug-and-play general multi-modal image registration model. PGMR comprises three components: Modality Prompt Module (MPM), Universal Registration Framework (URF), and Detail Enhancement Module (DEM). URF serves as the fundamental registration framework, handling both rigid and non-rigid deformations to achieve basic multi-modal image registration. MPM, one core component of this paper, is embedded within URF. Leveraging prompt learning, MPM dynamically integrates modality prompts into the intermediate output of URF, not only alleviating modality discrepancies but also promoting the ability of the registration model across various multi-modal data types. DEM is a detail enhancement module for multi-modal image registration. It can enrich the details of registration results, thereby enhancing the effectiveness of subsequent tasks. We evaluate the performance of PGMR on four multi-modal types and extensive experiments validate the feasibility of PGMR, demonstrating the superiority of our method compared to state-of-the-art alternatives. The code will be available at https://github.com/stwts/PGMR.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
阔达的西牛完成签到,获得积分20
3秒前
勒布朗完成签到,获得积分10
3秒前
4秒前
4秒前
李里哩完成签到,获得积分10
4秒前
sdzylx7发布了新的文献求助30
5秒前
kkk发布了新的文献求助10
5秒前
5秒前
6秒前
CipherSage应助daguan采纳,获得10
6秒前
王贤平发布了新的文献求助10
6秒前
6秒前
Lucas应助大力的又菡采纳,获得10
6秒前
LLLUO发布了新的文献求助30
7秒前
Owen应助xxyx采纳,获得10
8秒前
9秒前
点到为止发布了新的文献求助10
9秒前
冷酷海安完成签到,获得积分10
9秒前
9秒前
科研通AI6.2应助酱鱼采纳,获得10
9秒前
纯白色发布了新的文献求助10
10秒前
zyyzyyoo发布了新的文献求助10
10秒前
zcy发布了新的文献求助10
11秒前
抹茶肥肠完成签到,获得积分10
11秒前
马晓武发布了新的文献求助10
12秒前
13秒前
西沙海底完成签到,获得积分10
13秒前
果汁儿发布了新的文献求助10
15秒前
15秒前
16秒前
16秒前
17秒前
caiE完成签到,获得积分10
17秒前
挂机的阿凯完成签到,获得积分10
18秒前
19秒前
大力的元柏完成签到,获得积分10
19秒前
舒适可乐完成签到,获得积分10
19秒前
zcy完成签到,获得积分10
20秒前
流氓恐龙完成签到,获得积分10
20秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Developing Genetic Editing Tools for Lysobacter 2000
卤化钙钛矿人工突触的研究 2000
Моделирование процессов самоорганизации в кристаллообразующих системах 1000
History of U.S. Space Surveillance and Satellite Cataloging 1000
Adhesion Science: Principles & Practice 800
Signals, Systems, and Signal Processing 610
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6522019
求助须知:如何正确求助?哪些是违规求助? 8315282
关于积分的说明 17788601
捐赠科研通 5624131
什么是DOI,文献DOI怎么找? 2927758
邀请新用户注册赠送积分活动 1904607
关于科研通互助平台的介绍 1764682