Beyond Static Knowledge: Dynamic Context-Aware Cross-Modal Contrastive Learning for Medical Visual Question Answering

计算机科学 答疑 人工智能 工作流程 语义学(计算机科学) 自然语言处理 特征(语言学) 自然语言 代表(政治) 编码(内存) 可视化 模态(人机交互) 知识表示与推理 特征学习 滤波器(信号处理) 适应(眼睛) 感知 机器学习 抽象 医学影像学 钥匙(锁) 编码(集合论) 语义记忆 对比度(视觉) 视觉感受 源代码 基于知识的系统 医学诊断 视觉推理 情报检索 噪音(视频) 特征提取 人机交互 透视图(图形)
作者
Rui Yang,Lijun Liu,Xupeng Feng,Wei Peng,Xiaobing Yang
出处
期刊:IEEE Transactions on Medical Imaging [Institute of Electrical and Electronics Engineers]
卷期号:45 (3): 1075-1087
标识
DOI:10.1109/tmi.2025.3617289
摘要

Medical Visual Question Answering (Med-VQA) aims to analyze medical images and accurately respond to natural language queries, thereby optimizing clinical workflows and improving diagnostic and therapeutic outcomes. Although medical images contain rich visual information, the corresponding textual queries frequently lack sufficient descriptive content. This imbalance of information and modality differences leads to significant semantic bias. Furthermore, existing approaches integrate external medical knowledge to enhance model performance, they primarily rely on static knowledge that lacks dynamic adaptation to specific input samples, leading to redundant information and noise interference. To address these challenges, we propose a Contextual Knowledge-Aware Dynamic Perception for the Cross-Modal Reasoning and Alignment (CKRA) Model. To mitigate knowledge redundancy, CKRA employs a dynamic perception mechanism that leverages semantic cues from the query to selectively filter relevant medical knowledge specific to the current sample's context. To alleviate cross-modal semantic bias, CKRA bridges the distance between visual and linguistic features through knowledge-image contrastive learning, optimizing knowledge feature representation and directing the model's attention to key image regions. Further, we design a dual-stream guided attention network that facilitates cross-modal interaction and alignment across multiple dimensions. Experimental results show that the proposed CKRA model outperforms the state-of-the-art method on SLAKE and VQA-RAD datasets. In addition, ablation studies validate the effectiveness of each module, while Grad-CAM maps further demonstrate the feasibility of CKRA for medical visual questioning tasks. The source code and weights of the model are available at https://github.com/cloneiq/CKRA-MedVQA.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
cinnamonbrd完成签到,获得积分10
刚刚
dong关注了科研通微信公众号
刚刚
Melody完成签到,获得积分10
刚刚
福崽完成签到,获得积分10
刚刚
1秒前
无花果发布了新的文献求助10
1秒前
camille完成签到,获得积分20
1秒前
二等兵佐德完成签到,获得积分10
1秒前
小蘑菇应助简单的张哈哈采纳,获得10
2秒前
2秒前
托托发布了新的文献求助10
2秒前
高锰酸钾发布了新的文献求助10
3秒前
wanci应助ZZ采纳,获得10
3秒前
panpan完成签到,获得积分10
3秒前
wang完成签到,获得积分10
3秒前
有魅力的乐珍完成签到 ,获得积分10
3秒前
MoCh发布了新的文献求助10
3秒前
玉米玉米完成签到,获得积分20
4秒前
称心访文完成签到,获得积分10
4秒前
英俊的铭应助KEYANXIAOBAI采纳,获得10
4秒前
5秒前
JX2002发布了新的文献求助10
5秒前
Alstonadas完成签到,获得积分10
5秒前
5秒前
hhh完成签到,获得积分10
6秒前
sky完成签到,获得积分10
6秒前
6秒前
小蘑菇应助不腻采纳,获得10
6秒前
若潇完成签到,获得积分10
7秒前
七叶树发布了新的文献求助10
7秒前
7秒前
柯南完成签到 ,获得积分10
7秒前
7秒前
科研通AI6.3应助晚晚采纳,获得10
7秒前
英勇代荷发布了新的文献求助10
7秒前
涳域完成签到,获得积分10
7秒前
8秒前
8秒前
吃了完成签到,获得积分10
8秒前
高分求助中
Principles of Economics, 11th Edition 10000
Prescott's Microbiology: 2026 Release ISE 10000
University Physics with Modern Physics, 16th edition 10000
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Environmental Leverage in Times of Climate Crisis: Product Standards, Carbon Border Measures and Preferential Trade Agreements 1000
Erwählung und Berufung bei Paulus: Bedeutung, Entwicklung und Funktion einer Vorstellung in ihrem frühjüdischen und griechisch-römischen Kontext 850
The Cambridge Handbook of Intellectual Property and Upcycling 800
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7207215
求助须知:如何正确求助?哪些是违规求助? 8840593
关于积分的说明 18656801
捐赠科研通 6856463
什么是DOI,文献DOI怎么找? 3181275
关于科研通互助平台的介绍 2340495
邀请新用户注册赠送积分活动 2155674