Visual attention network

计算机科学 人工智能 分割 卷积神经网络 目标检测 水准点(测量) 模式识别(心理学) 机器学习 计算机视觉 大地测量学 地理
作者
Meng-Hao Guo,Cheng-Ze Lu,Zheng-Ning Liu,Ming‐Ming Cheng,Shi‐Min Hu
出处
期刊:Computational Visual Media [Springer Nature]
卷期号:9 (4): 733-752 被引量:1384
标识
DOI:10.1007/s41095-023-0364-2
摘要

While originally designed for natural language processing tasks, the self-attention mechanism has recently taken various computer vision areas by storm. However, the 2D nature of images brings three challenges for applying self-attention in computer vision: (1) treating images as 1D sequences neglects their 2D structures; (2) the quadratic complexity is too expensive for high-resolution images; (3) it only captures spatial adaptability but ignores channel adaptability. In this paper, we propose a novel linear attention named large kernel attention (LKA) to enable self-adaptive and long-range correlations in self-attention while avoiding its shortcomings. Furthermore, we present a neural network based on LKA, namely Visual Attention Network (VAN). While extremely simple, VAN achieves comparable results with similar size convolutional neural networks (CNNs) and vision transformers (ViTs) in various tasks, including image classification, object detection, semantic segmentation, panoptic segmentation, pose estimation, etc. For example, VAN-B6 achieves 87.8% accuracy on ImageNet benchmark, and sets new state-of-the-art performance (58.2 PQ) for panoptic segmentation. Besides, VAN-B2 surpasses Swin-T 4 mIoU (50.1 vs. 46.1) for semantic segmentation on ADE20K benchmark, 2.6 AP (48.8 vs. 46.2) for object detection on COCO dataset. It provides a novel method and a simple yet strong baseline for the community. The code is available at https://github.com/Visual-Attention-Network .
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
kikuki发布了新的文献求助10
刚刚
violet发布了新的文献求助10
1秒前
JPH1990完成签到,获得积分10
1秒前
小李完成签到,获得积分10
1秒前
2秒前
LI发布了新的文献求助10
2秒前
在水一方的应助被嘿嘿采纳,获得10
3秒前
yy完成签到,获得积分10
4秒前
芒go完成签到,获得积分10
4秒前
无为发布了新的文献求助10
5秒前
tongtong发布了新的文献求助10
5秒前
Debra完成签到,获得积分10
6秒前
Taikonaut发布了新的文献求助10
7秒前
Owen的应助被li采纳,获得30
8秒前
asd888完成签到,获得积分10
8秒前
8秒前
在一完成签到,获得积分10
8秒前
9秒前
火山书痴完成签到 ,获得积分10
9秒前
李爱国的应助被syw采纳,获得20
10秒前
10秒前
听雨完成签到,获得积分10
10秒前
久某完成签到,获得积分20
11秒前
在水一方的应助被xiaowei666采纳,获得10
12秒前
胡萝卜完成签到,获得积分10
12秒前
Lin完成签到,获得积分10
12秒前
13秒前
Kumple发布了新的文献求助10
13秒前
upcomingbias完成签到,获得积分10
13秒前
syvshc的应助被WYL采纳,获得10
13秒前
Debra发布了新的文献求助10
14秒前
14秒前
tongtong完成签到,获得积分10
15秒前
KL完成签到,获得积分20
15秒前
15秒前
田様的应助被哭泣水壶采纳,获得10
16秒前
16秒前
美满的擎宇完成签到 ,获得积分10
16秒前
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Agyptische Geschichte der 21.30. Dynastie 510
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8192020
求助须知:如何正确求助?哪些是违规求助? 9578648
关于积分的说明 21861105
捐赠科研通 7791458
什么是DOI,文献DOI怎么找? 3436765
关于科研通互助平台的介绍 2560502
邀请新用户注册赠送积分活动 2483544