Expansion-Squeeze- Block: Linear Over-parameterization with Shortcut Connections to Train Compact Convolutional Networks

初始化 计算机科学 块(置换群论) 卷积神经网络 推论 算法 非线性系统 人工智能 模式识别(心理学) 数学 几何学 程序设计语言 量子力学 物理
作者
Linzhuo Yang,Lan Zhang
出处
期刊: [Institute of Electrical and Electronics Engineers]
卷期号:: 19-28 被引量:1
标识
DOI:10.1109/bigcom57025.2022.00011
摘要

We propose a new structure called Expansion-Squeeze-Block by leveraging over-parameterization to train given compact neural networks. The structure expands the width of convolutional layers and adds shortcut connections for better performance without adding any nonlinearity. The expanded networks can be contracted back to the original format algebraically at inference time without loss of information. In addition, we introduce a new initialization method utilizing the weights of the pretrained original networks, which can further improve the accuracy. We evaluate our methods on CIFAR-100 and Tiny-ImageNet datasets to show their effectiveness. As evidenced by our experiments, Expansion-Squeeze-Block outperforms the baselines in most cases with average 0.81% improvements and 1.15% combined with our initialization method on CIFAR-100 and Tiny-ImageNet datasets. We also demonstrate the effectiveness of the partial expansion strategy by choosing the layers of the highest importance in VGG11-BN0.5x and ResNet20. We can save on average 58.82% #MACs and 38.82% #Params than expanding all layers.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
David完成签到,获得积分10
1秒前
1秒前
1秒前
优秀乐松完成签到,获得积分20
1秒前
kkk完成签到 ,获得积分10
2秒前
LUAN完成签到,获得积分10
2秒前
朵朵发布了新的文献求助10
2秒前
沓也完成签到 ,获得积分10
3秒前
3秒前
3秒前
朝暮完成签到 ,获得积分10
4秒前
木头完成签到,获得积分10
4秒前
5秒前
情怀的应助被小李采纳,获得10
5秒前
共享精神的应助被xie采纳,获得10
5秒前
lululiya完成签到,获得积分10
5秒前
Maestro_S的应助被一颗苹果采纳,获得10
5秒前
6秒前
jing完成签到 ,获得积分10
7秒前
小蘑菇的应助被安静的花卷采纳,获得10
7秒前
7秒前
木子完成签到,获得积分10
7秒前
Akim的应助被Aaron采纳,获得10
7秒前
7秒前
8秒前
8秒前
巴啦啦发布了新的文献求助10
8秒前
8秒前
jzhan142完成签到,获得积分10
8秒前
8秒前
神圣先知完成签到,获得积分10
9秒前
9秒前
9秒前
9秒前
10秒前
10秒前
11秒前
11秒前
情怀的应助被火星上的咖啡采纳,获得10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
Boundaries and Bodhisattvas 500
高分子基功能界面水蒸发材料与应用研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8181155
求助须知:如何正确求助?哪些是违规求助? 9571140
关于积分的说明 21816740
捐赠科研通 7777528
什么是DOI,文献DOI怎么找? 3433436
关于科研通互助平台的介绍 2557664
邀请新用户注册赠送积分活动 2479482