GMAR: Gradient-Driven Multi-Head Attention Rollout for Vision Transformer Interpretability

可解释性 变压器 计算机科学 人工智能 主管(地质) 计算机视觉 电气工程 工程类 地质学 电压 地貌学
作者
Sehyeong Jo,Gangjae Jang,Haesol Park
出处
期刊:Proceedings [Institute of Electrical and Electronics Engineers]
卷期号:: 582-587 被引量:33
标识
DOI:10.1109/icip55913.2025.11084559
摘要

The Vision Transformer (ViT) has made significant advancements in computer vision, utilizing self-attention mechanisms to achieve state-of-the-art performance across various tasks, including image classification, object detection, and segmentation. Its architectural flexibility and capabilities have made it a preferred choice among researchers and practitioners. However, the intricate multi-head attention mechanism of ViT presents significant challenges to interpretability, as the underlying prediction process remains opaque. A critical limitation arises from an observation commonly noted in transformer architectures: "Not all attention heads are equally meaningful." Overlooking the relative importance of specific heads highlights the limitations of existing interpretability methods. To address these challenges, we introduce Gradient-Driven Multi-Head Attention Rollout (GMAR), a novel method that quantifies the importance of each attention head using gradient-based scores. These scores are normalized to derive a weighted aggregate attention score, effectively capturing the relative contributions of individual heads. GMAR clarifies the role of each head in the prediction process, enabling more precise interpretability at the head level. Experimental results demonstrate that GMAR consistently outperforms traditional attention rollout techniques. This work provides a practical contribution to transformer-based architectures, establishing a robust framework for enhancing the interpretability of Vision Transformer models.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
cruise发布了新的文献求助10
刚刚
pathway完成签到,获得积分10
刚刚
刚刚
刚刚
达芙完成签到,获得积分10
刚刚
威尔沐沐完成签到,获得积分10
1秒前
欢喜幼枫发布了新的文献求助10
1秒前
September完成签到,获得积分10
2秒前
乐观听白完成签到,获得积分10
2秒前
3秒前
生幸如此完成签到,获得积分10
3秒前
Doctorchentao完成签到,获得积分10
3秒前
3秒前
4秒前
Akim的应助被chengzi采纳,获得10
4秒前
andorado完成签到,获得积分10
4秒前
沫沫公主发布了新的文献求助10
4秒前
大个的应助被cruise采纳,获得10
4秒前
南宫禾发布了新的文献求助10
4秒前
wanci的应助被健壮的涑采纳,获得10
5秒前
李健的小迷弟的应助被鹿谷波采纳,获得10
5秒前
LuXiaoyu的应助被宋清华采纳,获得10
6秒前
6秒前
6秒前
6秒前
第一作者发布了新的文献求助10
6秒前
莲花微动完成签到,获得积分10
6秒前
李爱国的应助被研友_wZrxbL采纳,获得10
7秒前
dashi完成签到 ,获得积分10
8秒前
Resign发布了新的文献求助10
8秒前
美女完成签到,获得积分10
8秒前
清清发布了新的文献求助10
9秒前
科研通AI6.3的应助被山风岚岚采纳,获得10
9秒前
ymj完成签到,获得积分10
9秒前
Akim的应助被连钧采纳,获得10
9秒前
情怀的应助被这次会赢吗采纳,获得10
10秒前
斯文钢笔发布了新的文献求助10
10秒前
CipherSage的应助被消炎药采纳,获得10
10秒前
BBB发布了新的文献求助10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8188013
求助须知:如何正确求助?哪些是违规求助? 9575913
关于积分的说明 21844012
捐赠科研通 7785789
什么是DOI,文献DOI怎么找? 3435148
关于科研通互助平台的介绍 2559521
邀请新用户注册赠送积分活动 2482051