Beyond Static Knowledge: Dynamic Context-Aware Cross-Modal Contrastive Learning for Medical Visual Question Answering

计算机科学 答疑 人工智能 工作流程 语义学(计算机科学) 自然语言处理 特征(语言学) 自然语言 代表(政治) 编码(内存) 可视化 模态(人机交互) 知识表示与推理 特征学习 滤波器(信号处理) 适应(眼睛) 感知 机器学习 抽象 医学影像学 钥匙(锁) 编码(集合论) 语义记忆 对比度(视觉) 视觉感受 源代码 基于知识的系统 医学诊断 视觉推理 情报检索 噪音(视频) 特征提取 人机交互 透视图(图形)
作者
Rui Yang,Lijun Liu,Xupeng Feng,Wei Peng,Xiaobing Yang
出处
期刊:IEEE Transactions on Medical Imaging [Institute of Electrical and Electronics Engineers]
卷期号:45 (3): 1075-1087
标识
DOI:10.1109/tmi.2025.3617289
摘要

Medical Visual Question Answering (Med-VQA) aims to analyze medical images and accurately respond to natural language queries, thereby optimizing clinical workflows and improving diagnostic and therapeutic outcomes. Although medical images contain rich visual information, the corresponding textual queries frequently lack sufficient descriptive content. This imbalance of information and modality differences leads to significant semantic bias. Furthermore, existing approaches integrate external medical knowledge to enhance model performance, they primarily rely on static knowledge that lacks dynamic adaptation to specific input samples, leading to redundant information and noise interference. To address these challenges, we propose a Contextual Knowledge-Aware Dynamic Perception for the Cross-Modal Reasoning and Alignment (CKRA) Model. To mitigate knowledge redundancy, CKRA employs a dynamic perception mechanism that leverages semantic cues from the query to selectively filter relevant medical knowledge specific to the current sample's context. To alleviate cross-modal semantic bias, CKRA bridges the distance between visual and linguistic features through knowledge-image contrastive learning, optimizing knowledge feature representation and directing the model's attention to key image regions. Further, we design a dual-stream guided attention network that facilitates cross-modal interaction and alignment across multiple dimensions. Experimental results show that the proposed CKRA model outperforms the state-of-the-art method on SLAKE and VQA-RAD datasets. In addition, ablation studies validate the effectiveness of each module, while Grad-CAM maps further demonstrate the feasibility of CKRA for medical visual questioning tasks. The source code and weights of the model are available at https://github.com/cloneiq/CKRA-MedVQA.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
香蕉觅云的应助被闲人颦儿采纳,获得10
1秒前
无花果的应助被天真的迎夏采纳,获得10
2秒前
xcy完成签到,获得积分10
2秒前
森莫莓发布了新的文献求助10
2秒前
LI发布了新的文献求助10
2秒前
2秒前
辛羽嘉发布了新的文献求助10
3秒前
3秒前
蓝桉发布了新的文献求助10
3秒前
Guohao完成签到,获得积分10
3秒前
4秒前
4秒前
安详的断缘完成签到,获得积分10
4秒前
4秒前
5秒前
5秒前
积极障碍患者完成签到,获得积分10
6秒前
FashionBoy的应助被Yoyoyo采纳,获得10
6秒前
追光发布了新的文献求助10
6秒前
liao完成签到,获得积分10
6秒前
6秒前
6秒前
6秒前
7秒前
7秒前
8秒前
8秒前
陈先生发布了新的文献求助10
8秒前
英吉利25发布了新的文献求助50
8秒前
8秒前
香蕉觅云的应助被dsfsd采纳,获得10
8秒前
9秒前
sasa完成签到,获得积分10
9秒前
wz7318完成签到,获得积分10
9秒前
U哈哈完成签到 ,获得积分10
9秒前
10秒前
大力水手发布了新的文献求助10
10秒前
vera完成签到,获得积分10
10秒前
阿托品完成签到,获得积分10
10秒前
wxh完成签到,获得积分10
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Campbell's Operative Orthopaedics, E-Book 3000
Les Mantodea De Guyane 2000
Energie-Contracting 1500
内視鏡下経鼻経蝶形骨洞手術術後SIADHに対する予防的水制限の安全性と有効性の検討 1000
Guidelines for fracture-safe and fatigue-reliable design of steel structures 600
Problems and Solutions for Integer and Combinatorial Optimization: Building Skills in Discrete Optimization 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8016085
求助须知:如何正确求助?哪些是违规求助? 9462147
关于积分的说明 21192269
捐赠科研通 7587291
什么是DOI,文献DOI怎么找? 3385265
关于科研通互助平台的介绍 2517997
邀请新用户注册赠送积分活动 2420347