Conformer: Local Features Coupling Global Representations for Recognition and Detection

构象异构 人工智能 计算机科学 特征(语言学) 卷积神经网络 模式识别(心理学) 特征提取 目标检测 特征学习 代表(政治) 卷积(计算机科学) 人工神经网络 物理 语言学 量子力学 政治 哲学 分子 法学 政治学
作者
Zhiliang Peng,Zonghao Guo,Wei Huang,Yaowei Wang,Lingxi Xie,Jianbin Jiao,Qi Tian,Qixiang Ye
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:45 (8): 9454-9468 被引量:165
标识
DOI:10.1109/tpami.2023.3243048
摘要

With convolution operations, Convolutional Neural Networks (CNNs) are good at extracting local features but experience difficulty to capture global representations. With cascaded self-attention modules, vision transformers can capture long-distance feature dependencies but unfortunately deteriorate local feature details. In this paper, we propose a hybrid network structure, termed Conformer, to take both advantages of convolution operations and self-attention mechanisms for enhanced representation learning. Conformer roots in feature coupling of CNN local features and transformer global representations under different resolutions in an interactive fashion. Conformer adopts a dual structure so that local details and global dependencies are retained to the maximum extent. We also propose a Conformer-based detector (ConformerDet), which learns to predict and refine object proposals, by performing region-level feature coupling in an augmented cross-attention fashion. Experiments on ImageNet and MS COCO datasets validate Conformer's superiority for visual recognition and object detection, demonstrating its potential to be a general backbone network.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
ShengQ完成签到,获得积分10
刚刚
重要的溪流完成签到,获得积分10
2秒前
MchemG的应助被AN采纳,获得50
3秒前
蒋蒋完成签到 ,获得积分10
3秒前
乔修亚完成签到 ,获得积分10
4秒前
summer完成签到,获得积分10
5秒前
haoling完成签到,获得积分10
6秒前
务实尔烟完成签到,获得积分10
6秒前
cauchyhh完成签到,获得积分10
6秒前
L_MING完成签到,获得积分10
7秒前
啦啦啦完成签到 ,获得积分10
8秒前
老猫头鹰完成签到,获得积分10
8秒前
Zircon完成签到 ,获得积分10
8秒前
尊敬的驳完成签到,获得积分10
9秒前
10秒前
清风徐来完成签到,获得积分10
10秒前
跳跃芷蕊完成签到,获得积分10
10秒前
yongzaizhuigan完成签到,获得积分0
10秒前
科研人完成签到,获得积分10
11秒前
大大大忽悠完成签到 ,获得积分10
12秒前
12秒前
ale发布了新的文献求助10
13秒前
WTX完成签到,获得积分0
13秒前
清风徐来发布了新的文献求助10
15秒前
Sacchride完成签到,获得积分10
15秒前
15秒前
Lychee完成签到,获得积分10
16秒前
16秒前
Ulrica发布了新的文献求助20
16秒前
rr完成签到,获得积分10
17秒前
隔水一路秋完成签到,获得积分10
17秒前
if完成签到,获得积分10
18秒前
青柠微凉完成签到 ,获得积分10
18秒前
肥海狸完成签到,获得积分10
19秒前
一颗橘子完成签到,获得积分10
19秒前
974完成签到 ,获得积分10
19秒前
20秒前
小马甲的应助被灶鲜森采纳,获得10
20秒前
chasingthestars完成签到 ,获得积分10
20秒前
下一秒的王的应助被源味采纳,获得10
20秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8180111
求助须知:如何正确求助?哪些是违规求助? 9570235
关于积分的说明 21809065
捐赠科研通 7776183
什么是DOI,文献DOI怎么找? 3433262
关于科研通互助平台的介绍 2557463
邀请新用户注册赠送积分活动 2479038