MINT: Multiplier-less INTeger Quantization for Energy Efficient Spiking Neural Networks

量化(信号处理) 内存占用 计算机科学 乘数(经济学) 算法 人工智能 程序设计语言 宏观经济学 经济
作者
Ruokai Yin,Yuhang Li,Abhishek Moitra,Priyadarshini Panda
标识
DOI:10.1109/asp-dac58780.2024.10473825
摘要

We propose Multiplier-less INTeger (MINT) quantization, a uniform quantization scheme that efficiently compresses weights and membrane potentials in spiking neural networks (SNNs). Unlike previous SNN quantization methods, MINT quantizes memory-intensive membrane potentials to an extremely low precision (2-bit), significantly reducing the memory footprint. MINT also shares the quantization scaling factor between weights and membrane potentials, eliminating the need for multipliers required in conventional uniform quantization. Experimental results show that our method matches the accuracy of full-precision models and other state-of-the-art SNN quantization techniques while surpassing them in memory footprint reduction and hardware cost efficiency at deployment. For example, 2-bit MINT VGG-16 achieves 90.6% accuracy on CIFAR-10, with roughly 93.8% reduction in memory footprint from the full-precision model and 90% reduction in computation energy compared to vanilla uniform quantization at deployment. 1 1 Code is available at https://github.com/Intelligent-Computing-Lab-Yale/MINT-Quantization

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
风吹麦浪发布了新的文献求助30
1秒前
廉6666发布了新的文献求助10
1秒前
风吹麦浪发布了新的文献求助30
1秒前
风吹麦浪发布了新的文献求助30
1秒前
风吹麦浪发布了新的文献求助10
1秒前
风吹麦浪发布了新的文献求助30
1秒前
风吹麦浪发布了新的文献求助30
1秒前
11发布了新的文献求助20
1秒前
百里盼夏完成签到,获得积分10
2秒前
rainno发布了新的文献求助10
2秒前
阿六完成签到,获得积分10
2秒前
娄心昊发布了新的文献求助10
3秒前
3秒前
成就鑫发布了新的文献求助10
3秒前
3秒前
Hello应助李满际采纳,获得10
3秒前
3秒前
zzz完成签到,获得积分20
4秒前
4秒前
英姑应助认真雅阳采纳,获得10
4秒前
顾矜应助孙传彬采纳,获得10
4秒前
cheng应助科研通管家采纳,获得20
5秒前
科目三应助科研通管家采纳,获得10
5秒前
NexusExplorer应助科研通管家采纳,获得10
5秒前
打打应助科研通管家采纳,获得10
5秒前
aajhajkahna应助科研通管家采纳,获得10
5秒前
5秒前
香蕉觅云应助科研通管家采纳,获得10
5秒前
领导范儿应助科研通管家采纳,获得10
6秒前
小蘑菇应助廉6666采纳,获得10
6秒前
YuNanding完成签到,获得积分20
6秒前
6秒前
王志杰完成签到,获得积分10
6秒前
FashionBoy应助科研通管家采纳,获得10
6秒前
爆米花应助科研通管家采纳,获得10
6秒前
完美世界应助科研通管家采纳,获得10
6秒前
王国威完成签到 ,获得积分10
6秒前
呵呵呵应助科研通管家采纳,获得20
7秒前
7秒前
7秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Principles of town planning: translating concepts to applications 1000
1 Peter and Christ's Descent to the Dead in Its Early Christian Reception 700
Perfectionism in School 600
Organizational Behavior 510
Management and the Arts 510
Matrix Methods in Data Mining and Pattern Recognition Second Edition 510
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7729105
求助须知:如何正确求助?哪些是违规求助? 9281254
关于积分的说明 20141887
捐赠科研通 7306506
什么是DOI,文献DOI怎么找? 3302994
关于科研通互助平台的介绍 2456029
邀请新用户注册赠送积分活动 2311265