Multi-level Multimodal Visual Neural Decoding for Generalized Visual Object Recognition

计算机科学 人工智能 解码方法 视觉对象识别的认知神经科学 计算机视觉 对象(语法) 模式识别(心理学) 语音识别 神经解码 三维单目标识别 可视化 人类视觉系统模型 人工神经网络 特征提取 草图识别 目标检测 编码(内存) 视觉感受 特征(语言学) 动作识别 签名识别 深空物体
作者
Wenlong Hang,Junliang Wang,Shuang Liang,Qiong Wang,Guanglin Li,Jing Qin,Baoliang Chen
出处
期刊:IEEE Transactions on Cognitive and Developmental Systems [Institute of Electrical and Electronics Engineers]
卷期号:: 1-12
标识
DOI:10.1109/tcds.2026.3674164
摘要

The decoding of human visual neural signals has garnered significant attention due to its potential to reveal the underlying cognitive mechanisms of the brain. However, existing visual neural decoding methods mainly focus on instance-level multimodal semantic correspondences, often neglecting local-level and concept-level supervisory information. These limitations substantially weaken their generalizability to downstream tasks. In this study, we propose a multi-level multimodal visual neural decoding (MMVND) framework that leverages multi-level semantic correspondences between paired image stimuli and brain activities to address these limitations. Specifically, we initially employ the instance-level alignment module to capture the correspondence between brain activity-image pairs. Subsequently, a cross-attention mechanism is utilized to learn the matching between tokens from different modalities. The local-level alignment module further exploits the local semantic information based on matched tokens to establish fine-grained local correspondences. To capture concept-level correspondences, we design a momentum update strategy to generate prototypes for different modalities. The concept-level alignment module then utilizes the prototype-based semantic information to capture the concept-level multimodal correspondences. Synergistic learning across multi-level multimodal semantic correspondences significantly enhances the performance of generalized visual object recognition. Extensive experiments conducted on publicly available visual neural datasets demonstrate the superiority of the proposed multi-level multimodal learning framework.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Markhan完成签到,获得积分10
刚刚
1秒前
2秒前
CipherSage的应助被橘色的嘟嘟采纳,获得10
2秒前
所所的应助被吱吱采纳,获得10
3秒前
顾矜的应助被太清采纳,获得10
3秒前
amber完成签到,获得积分10
4秒前
Nanyi完成签到 ,获得积分10
4秒前
赘婿的应助被二二春采纳,获得10
5秒前
SmallTang_123完成签到 ,获得积分10
5秒前
6秒前
業業发布了新的文献求助10
6秒前
7秒前
英姑的应助被7ohnny采纳,获得10
8秒前
8秒前
8秒前
情怀的应助被全过采纳,获得10
8秒前
无意逐鹿发布了新的文献求助10
9秒前
洪亮完成签到,获得积分10
10秒前
Ava的应助被TEDDY采纳,获得10
10秒前
11秒前
Manxi完成签到,获得积分10
13秒前
天涯明月发布了新的文献求助30
13秒前
Owen的应助被kscaidaowang采纳,获得10
13秒前
13秒前
13秒前
Meimei发布了新的文献求助10
14秒前
吱吱发布了新的文献求助10
14秒前
斯文败类的应助被sssss采纳,获得10
14秒前
在水一方的应助被sssss采纳,获得10
14秒前
野菜发布了新的文献求助10
15秒前
Hello的应助被布洛芬采纳,获得10
16秒前
16秒前
16秒前
chen完成签到,获得积分10
16秒前
皮卡丘发布了新的文献求助30
17秒前
18秒前
英姑的应助被漫山采纳,获得10
18秒前
cc完成签到,获得积分10
18秒前
18秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8188118
求助须知:如何正确求助?哪些是违规求助? 9575977
关于积分的说明 21844428
捐赠科研通 7785918
什么是DOI,文献DOI怎么找? 3435205
关于科研通互助平台的介绍 2559558
邀请新用户注册赠送积分活动 2482065