GhostFormer: Efficiently amalgamated CNN-transformer architecture for object detection

计算机科学 变压器 帕斯卡(单位) 目标检测 分类器(UML) 瓶颈 卷积神经网络 人工智能 建筑 特征提取 模式识别(心理学) 计算机工程 机器学习 嵌入式系统 工程类 程序设计语言 艺术 视觉艺术 电压 电气工程
作者
Xin Xie,Dengquan Wu,Mingye Xie,Zixi Li
出处
期刊:Pattern Recognition [Elsevier BV]
卷期号:148: 110172-110172 被引量:63
标识
DOI:10.1016/j.patcog.2023.110172
摘要

The lightweight network model has gradually evolved into an important research direction in object detection. Network lightweight design has a variety of research methods, such as quantization, knowledge distillation, and neural architecture search. However, these methods either fail to break through the performance bottleneck of the model itself or require massive training costs. In order to solve these problems, a new object detection model based on CNN-Transformer hybrid feature extraction network called GhostFormer is proposed from the perspective of lightweight network structure design. GhostFormer makes full use of the advantages of local modeling of CNN and global modeling of Transformer, not only effectively reducing the complexity of the convolution model but also breaking through the limitation of Transformer's lack of inductive bias. Finally, better transfer results are obtained in downstream tasks. Experiments show that the model is less than half as computationally expensive as YOLOv7 on the Pascal VOC dataset, with only about 3 % [email protected] loss, and 9.7% [email protected]:0.95 improvement on the MS COCO dataset compared with GhostNet.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
12345完成签到,获得积分10
刚刚
2秒前
wjz完成签到,获得积分10
3秒前
4秒前
4秒前
Jing发布了新的文献求助10
4秒前
4秒前
whs发布了新的文献求助10
4秒前
rrr完成签到,获得积分10
4秒前
华仔的应助被豆奶粉或采纳,获得10
4秒前
小蘑菇的应助被一一采纳,获得10
5秒前
xiuuu发布了新的文献求助10
6秒前
Ari发布了新的文献求助10
6秒前
orixero的应助被OuyangShuo采纳,获得10
6秒前
6秒前
7秒前
酷波er的应助被zx采纳,获得10
8秒前
搜集达人的应助被AUK采纳,获得10
8秒前
9秒前
往不随发布了新的文献求助10
9秒前
WZJ发布了新的文献求助10
9秒前
9秒前
bronny完成签到,获得积分20
12秒前
JeanetteJin发布了新的文献求助10
12秒前
CipherSage的应助被勤恳的铲丝采纳,获得10
12秒前
在水一方的应助被succo采纳,获得10
12秒前
xxxg郭完成签到 ,获得积分10
13秒前
13秒前
琪琪发布了新的文献求助10
13秒前
14秒前
14秒前
赘婿的应助被ayzzdbr采纳,获得10
14秒前
cdercder的应助被而非哈随哈桑采纳,获得10
14秒前
Luuuuu的应助被而非哈随哈桑采纳,获得10
15秒前
传奇3的应助被而非哈随哈桑采纳,获得10
15秒前
大个的应助被而非哈随哈桑采纳,获得10
15秒前
丘比特的应助被而非哈随哈桑采纳,获得10
15秒前
15秒前
华仔的应助被1128采纳,获得10
16秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
高分子基功能界面水蒸发材料与应用研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8177654
求助须知:如何正确求助?哪些是违规求助? 9568503
关于积分的说明 21799551
捐赠科研通 7772253
什么是DOI,文献DOI怎么找? 3432428
关于科研通互助平台的介绍 2556594
邀请新用户注册赠送积分活动 2478011