DIET-SNN: A Low-Latency Spiking Neural Network With D irect I nput E ncoding and Leakage and T hreshold Optimization

尖峰神经网络 推论 计算机科学 卷积神经网络 深度学习 异步通信 失败 延迟(音频) 人工神经网络 人工智能 模式识别(心理学) 深信不疑网络 并行计算 电信 计算机网络
作者
Nitin Rathi,Kaushik Roy
出处
期刊:IEEE transactions on neural networks and learning systems [Institute of Electrical and Electronics Engineers]
卷期号:34 (6): 3174-3182 被引量:599
标识
DOI:10.1109/tnnls.2021.3111897
摘要

Bioinspired spiking neural networks (SNNs), operating with asynchronous binary signals (or spikes) distributed over time, can potentially lead to greater computational efficiency on event-driven hardware. The state-of-the-art SNNs suffer from high inference latency, resulting from inefficient input encoding and suboptimal settings of the neuron parameters (firing threshold and membrane leak). We propose DIET-SNN, a low-latency deep spiking network trained with gradient descent to optimize the membrane leak and the firing threshold along with other network parameters (weights). The membrane leak and threshold of each layer are optimized with end-to-end backpropagation to achieve competitive accuracy at reduced latency. The input layer directly processes the analog pixel values of an image without converting it to spike train. The first convolutional layer converts analog inputs into spikes where leaky-integrate-and-fire (LIF) neurons integrate the weighted inputs and generate an output spike when the membrane potential crosses the trained firing threshold. The trained membrane leak selectively attenuates the membrane potential, which increases activation sparsity in the network. The reduced latency combined with high activation sparsity provides massive improvements in computational efficiency. We evaluate DIET-SNN on image classification tasks from CIFAR and ImageNet datasets on VGG and ResNet architectures. We achieve top-1 accuracy of 69% with five timesteps (inference latency) on the ImageNet dataset with 12× less compute energy than an equivalent standard artificial neural network (ANN). In addition, DIET-SNN performs 20- 500× faster inference compared to other state-of-the-art SNN models.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
1秒前
zzh_zxc完成签到,获得积分10
3秒前
4秒前
李爱国的应助被richardhipower采纳,获得10
6秒前
7秒前
Hello的应助被TT采纳,获得10
9秒前
望禾完成签到,获得积分10
9秒前
XX完成签到,获得积分10
12秒前
13秒前
handsomeboy完成签到,获得积分10
14秒前
16秒前
137292967发布了新的文献求助10
17秒前
张磊发布了新的文献求助10
17秒前
17秒前
FashionBoy的应助被richardhipower采纳,获得10
17秒前
田様的应助被Cylara采纳,获得10
19秒前
可爱的函函的应助被yuyuyu采纳,获得10
19秒前
20秒前
无助的考拉完成签到,获得积分10
20秒前
20秒前
20秒前
张张发布了新的文献求助10
21秒前
22秒前
K9999K发布了新的文献求助10
22秒前
Lydia发布了新的文献求助10
22秒前
在水一方的应助被zww采纳,获得10
23秒前
华仔的应助被科研通管家采纳,获得10
23秒前
科目三的应助被科研通管家采纳,获得10
23秒前
烟花的应助被科研通管家采纳,获得10
24秒前
秋风的应助被科研通管家采纳,获得10
24秒前
打打的应助被科研通管家采纳,获得30
24秒前
科研通AI2S的应助被科研通管家采纳,获得10
24秒前
隐形曼青的应助被科研通管家采纳,获得10
24秒前
852的应助被科研通管家采纳,获得10
24秒前
领导范儿的应助被科研通管家采纳,获得10
24秒前
生煎包完成签到,获得积分10
24秒前
完美世界的应助被科研通管家采纳,获得10
24秒前
CAOHOU的应助被科研通管家采纳,获得10
25秒前
今后的应助被科研通管家采纳,获得10
25秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Agyptische Geschichte der 21.30. Dynastie 510
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8192604
求助须知:如何正确求助?哪些是违规求助? 9579105
关于积分的说明 21863529
捐赠科研通 7792211
什么是DOI,文献DOI怎么找? 3436974
关于科研通互助平台的介绍 2560633
邀请新用户注册赠送积分活动 2483864