Deformation-aware and reconstruction-driven multimodal representation learning for brain tumor segmentation with missing modalities

计算机科学 代表(政治) 模式 分割 人工智能 变形(气象学) 计算机视觉 模式识别(心理学) 地质学 社会学 政治学 社会科学 政治 海洋学 法学
作者
Zhiyuan Li,Yafei Zhang,Huafeng Li,Yi Chai,Yushi Yang
出处
期刊:Biomedical Signal Processing and Control [Elsevier BV]
卷期号:91: 106012-106012 被引量:38
标识
DOI:10.1016/j.bspc.2024.106012
摘要

Multimodal magnetic resonance imaging (MRI) provides complementary information for brain tumor segmentation, and several methods leveraging full modalities have been proposed. However, capturing the full modality information is challenging due to commonplace data corruption, imperfect imaging protocols, and patient-related constraints. The unavailability of certain modalities can significantly undermine the performance of segmentation methods that rely on full-modality data. To address this issue, this paper proposes a deformation-aware and reconstruction-driven method for brain tumor segmentation in the presence of missing modalities. The proposed method introduces a local–global modeling module to enhance the intramodal feature representation ability of the modality-specific encoder. Considering the irregular shape of tumor regions, we develop a deformation-adaptive perceptual multimodal representation learning module that learns deformation information from an incomplete set of multimodal images, thereby guiding the network to accurately localize the tumor regions. Furthermore, we design a reconstruction-driven key-information mining module that recovers the original images from the features extracted by the encoder. This process further ensures that the encoder can extract the key tumor discriminative features. During the inference phase, the module is removed to mitigate additional computational burdens. Experimental results on two publicly available multimodal brain tumor benchmark datasets show that the proposed method outperforms existing brain tumor segmentation methods with missing modalities. The code is available at https://github.com/Linzy0227/SRMNet.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
changhao6787完成签到,获得积分10
刚刚
梦梦完成签到,获得积分10
刚刚
奋斗蚂蚁完成签到 ,获得积分10
1秒前
明亮傲芙完成签到 ,获得积分10
1秒前
汏流萤完成签到,获得积分10
1秒前
眠羊发布了新的文献求助10
2秒前
my123完成签到,获得积分10
2秒前
xin发布了新的文献求助10
3秒前
悲凉的外套完成签到,获得积分10
3秒前
3秒前
liong完成签到,获得积分10
3秒前
3秒前
liu完成签到,获得积分10
4秒前
饱满短靴发布了新的文献求助10
4秒前
kkk完成签到,获得积分10
5秒前
Hexazine完成签到,获得积分10
5秒前
5秒前
1234完成签到,获得积分10
5秒前
单薄成风完成签到,获得积分10
5秒前
221发布了新的文献求助10
5秒前
花的微笑完成签到,获得积分10
6秒前
6秒前
慈祥的夜白完成签到 ,获得积分10
6秒前
小二郎的应助被YPHCC采纳,获得30
6秒前
6秒前
summer完成签到,获得积分0
7秒前
火龙果完成签到,获得积分10
7秒前
天天向上的应助被风吹麦浪采纳,获得10
8秒前
CodeCraft的应助被梅梅也采纳,获得10
8秒前
人间白首发布了新的文献求助10
8秒前
8秒前
温暖万天完成签到,获得积分10
8秒前
8秒前
水煮电吹风的应助被科烟生采纳,获得10
8秒前
molihuakai的应助被王梦姣采纳,获得10
9秒前
JamesPei的应助被鲸落采纳,获得10
9秒前
9秒前
yunjian1583完成签到,获得积分10
9秒前
lilylucky完成签到,获得积分10
9秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8180339
求助须知:如何正确求助?哪些是违规求助? 9570391
关于积分的说明 21811279
捐赠科研通 7776418
什么是DOI,文献DOI怎么找? 3433277
关于科研通互助平台的介绍 2557483
邀请新用户注册赠送积分活动 2479091