亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

Depth-wise Decomposition for Accelerating Separable Convolutions in Efficient Convolutional Neural Networks

卷积(计算机科学) 卷积神经网络 计算机科学 可分离空间 奇异值分解 人工智能 推论 模式识别(心理学) 分解 频道(广播) 算法 人工神经网络 数学 计算机网络 生物 数学分析 生态学
作者
Yihui He,Jianing Qian,Jianren Wang
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:6
标识
DOI:10.48550/arxiv.1910.09455
摘要

Very deep convolutional neural networks (CNNs) have been firmly established as the primary methods for many computer vision tasks. However, most state-of-the-art CNNs are large, which results in high inference latency. Recently, depth-wise separable convolution has been proposed for image recognition tasks on computationally limited platforms such as robotics and self-driving cars. Though it is much faster than its counterpart, regular convolution, accuracy is sacrificed. In this paper, we propose a novel decomposition approach based on SVD, namely depth-wise decomposition, for expanding regular convolutions into depthwise separable convolutions while maintaining high accuracy. We show our approach can be further generalized to the multi-channel and multi-layer cases, based on Generalized Singular Value Decomposition (GSVD) [59]. We conduct thorough experiments with the latest ShuffleNet V2 model [47] on both random synthesized dataset and a large-scale image recognition dataset: ImageNet [10]. Our approach outperforms channel decomposition [73] on all datasets. More importantly, our approach improves the Top-1 accuracy of ShuffleNet V2 by ~2%.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
时间煮雨我煮鱼完成签到,获得积分10
刚刚
欣喜香菇完成签到,获得积分10
3秒前
10秒前
22秒前
jf完成签到 ,获得积分10
25秒前
科研通AI6.3的应助被灵剑山采纳,获得10
25秒前
缥缈的鸡翅完成签到,获得积分10
28秒前
leafy189完成签到,获得积分10
30秒前
ASZI完成签到 ,获得积分10
31秒前
32秒前
愉快的惋庭完成签到,获得积分10
35秒前
35秒前
KKIII完成签到,获得积分10
37秒前
ldxghh发布了新的文献求助10
37秒前
38秒前
梦梦的应助被盖世小么得采纳,获得10
38秒前
完美世界的应助被dd采纳,获得10
43秒前
45秒前
真实的曼柔完成签到 ,获得积分10
46秒前
48秒前
49秒前
53秒前
53秒前
悦兮的应助被科研通管家采纳,获得10
53秒前
花痴的向卉完成签到,获得积分10
54秒前
朴素半烟完成签到 ,获得积分10
54秒前
打打的应助被科研通管家采纳,获得10
54秒前
54秒前
KKIII发布了新的文献求助10
57秒前
2589完成签到,获得积分10
57秒前
淡然的冰淇淋完成签到 ,获得积分10
1分钟前
坦率的邑完成签到 ,获得积分10
1分钟前
1分钟前
冷酷的祥完成签到,获得积分10
1分钟前
睡觉大王__完成签到,获得积分10
1分钟前
科研小白发布了新的文献求助10
1分钟前
obedVL完成签到,获得积分10
1分钟前
风趣含双发布了新的文献求助10
1分钟前
背后寒烟完成签到 ,获得积分10
1分钟前
Yh完成签到,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8172954
求助须知:如何正确求助?哪些是违规求助? 9565447
关于积分的说明 21780029
捐赠科研通 7764817
什么是DOI,文献DOI怎么找? 3431496
关于科研通互助平台的介绍 2555519
邀请新用户注册赠送积分活动 2476571