FoundationMorph: a 3D vision-language foundation model for unsupervised medical image registration

基础(证据) 计算机科学 人工智能 计算机视觉 图像配准 图像(数学) 自然语言处理 地理 考古
作者
Shaoyan Pan,Mingzhe Hu,Mojtaba Safari,Keyur D Shah,Feng Zhao,Tonghe Wang,Richard L. J. Qiu,Xiaofeng Yang
标识
DOI:10.1117/12.3047509
摘要

This study introduces FoundationMorph, a 3D vision-language foundation model for unsupervised deformable 3D medical image registration. Traditional deep learning approaches struggle with generalizability and require training individual models for different image modalities and tasks, which may reduce efficiency and compromise clinical processes due to the limited data for training and the resulted performance inconsistency. FoundationMorph addresses these issues by performing multiple registration tasks with a single model. It integrates a language module for clinical text-based information using a pre-trained language model and a vision module that unifies 2D and 3D image encoders. The 2D encoder, trained on a large-scale mixed medical imaging dataset, including MRI, CT, and PET, works with a 3D network to learn multiple 3D registration tasks. A multi-dimensional attention module integrates language, 2D, and 3D features for accurate 3D registrations. The model was evaluated on the IXI dataset for brain MRI inter-patient registration and the DIRLAB dataset for lung 4DCT intra-patient registration. FoundationMorph outperformed competitive methods, achieving minimal target registration error and demonstrating superior effectiveness in handling multiple registration tasks, highlighting its potential to facilitate single- and multi-task registration for clinical practices.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
CodeCraft的应助被小趴菜采纳,获得10
1秒前
充电宝的应助被毫无默契可言采纳,获得10
1秒前
gao完成签到 ,获得积分10
2秒前
何文鑫发布了新的文献求助10
2秒前
2秒前
深情安青的应助被凡空采纳,获得10
2秒前
恶鬼灭杀发布了新的文献求助10
2秒前
3秒前
憨包发布了新的文献求助10
3秒前
喜喜发布了新的文献求助80
3秒前
Hcw0525发布了新的文献求助10
3秒前
zx的应助被zzz2193采纳,获得10
4秒前
科研通AI6.2的应助被凉笙采纳,获得10
4秒前
業業发布了新的文献求助10
4秒前
失眠柠檬完成签到 ,获得积分10
5秒前
背后迎夏完成签到 ,获得积分10
5秒前
楠楠发布了新的文献求助10
5秒前
Pilule完成签到 ,获得积分10
7秒前
dgjirhf完成签到 ,获得积分10
7秒前
Ava的应助被超帅睿渊采纳,获得10
7秒前
7秒前
NexusExplorer的应助被三文鱼采纳,获得10
8秒前
8秒前
10秒前
方源的应助被万念归一采纳,获得20
10秒前
11秒前
调皮的友儿完成签到,获得积分10
11秒前
CipherSage的应助被欣欣欣欣采纳,获得10
11秒前
旦旦完成签到 ,获得积分10
12秒前
12秒前
Moweikang完成签到,获得积分10
12秒前
cwlm12发布了新的文献求助10
13秒前
lalala发布了新的文献求助10
13秒前
眯眯眼的海完成签到,获得积分10
13秒前
13秒前
阿蒙蒙完成签到 ,获得积分10
13秒前
14秒前
李爱国的应助被非躺平人生采纳,获得10
14秒前
二三发布了新的文献求助10
14秒前
RobiN发布了新的文献求助10
15秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8188118
求助须知:如何正确求助?哪些是违规求助? 9575977
关于积分的说明 21844428
捐赠科研通 7785918
什么是DOI,文献DOI怎么找? 3435205
关于科研通互助平台的介绍 2559558
邀请新用户注册赠送积分活动 2482065