MINT: Multiplier-less INTeger Quantization for Energy Efficient Spiking Neural Networks

量化(信号处理) 内存占用 计算机科学 乘数(经济学) 算法 人工智能 程序设计语言 经济 宏观经济学
作者
Ruokai Yin,Yuhang Li,Abhishek Moitra,Priyadarshini Panda
标识
DOI:10.1109/asp-dac58780.2024.10473825
摘要

We propose Multiplier-less INTeger (MINT) quantization, a uniform quantization scheme that efficiently compresses weights and membrane potentials in spiking neural networks (SNNs). Unlike previous SNN quantization methods, MINT quantizes memory-intensive membrane potentials to an extremely low precision (2-bit), significantly reducing the memory footprint. MINT also shares the quantization scaling factor between weights and membrane potentials, eliminating the need for multipliers required in conventional uniform quantization. Experimental results show that our method matches the accuracy of full-precision models and other state-of-the-art SNN quantization techniques while surpassing them in memory footprint reduction and hardware cost efficiency at deployment. For example, 2-bit MINT VGG-16 achieves 90.6% accuracy on CIFAR-10, with roughly 93.8% reduction in memory footprint from the full-precision model and 90% reduction in computation energy compared to vanilla uniform quantization at deployment. 1 1 Code is available at https://github.com/Intelligent-Computing-Lab-Yale/MINT-Quantization
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
JL完成签到 ,获得积分10
1秒前
傻傻的火车完成签到,获得积分10
1秒前
2秒前
yu发布了新的文献求助10
2秒前
CipherSage应助iui飞采纳,获得10
2秒前
3秒前
4秒前
英姑应助liangxianli采纳,获得30
5秒前
NICAI完成签到,获得积分10
5秒前
科研通AI2S应助yjy采纳,获得10
6秒前
霉凡脑发布了新的文献求助10
8秒前
lily发布了新的文献求助10
8秒前
所所应助小飞飞采纳,获得10
9秒前
打打应助dywen采纳,获得50
9秒前
火焰不聪明完成签到 ,获得积分10
11秒前
mangmang完成签到,获得积分10
11秒前
12秒前
DDGD发布了新的文献求助10
12秒前
13秒前
zhouzhou完成签到,获得积分10
14秒前
BOBO完成签到,获得积分10
15秒前
17秒前
18秒前
HJJHJH发布了新的文献求助10
19秒前
小飞飞完成签到,获得积分10
19秒前
完美世界应助lily采纳,获得30
20秒前
丰富的不惜完成签到,获得积分10
21秒前
无耻之徒关注了科研通微信公众号
21秒前
小飞飞发布了新的文献求助10
22秒前
我是老大应助邹芳清采纳,获得10
22秒前
23秒前
你好发布了新的文献求助10
24秒前
加油呀完成签到,获得积分10
26秒前
26秒前
Akim应助狗大王采纳,获得10
27秒前
chen举报summy求助涉嫌违规
27秒前
研友_89eRG8发布了新的文献求助10
28秒前
Lucas应助儒雅的冷松采纳,获得10
28秒前
30秒前
Nolan完成签到,获得积分10
31秒前
高分求助中
Technologies supporting mass customization of apparel: A pilot project 600
Разработка метода ускоренного контроля качества электрохромных устройств 500
Chinesen in Europa – Europäer in China: Journalisten, Spione, Studenten 500
Arthur Ewert: A Life for the Comintern 500
China's Relations With Japan 1945-83: The Role of Liao Chengzhi // Kurt Werner Radtke 500
Two Years in Peking 1965-1966: Book 1: Living and Teaching in Mao's China // Reginald Hunt 500
Epigenetic Drug Discovery 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 工程类 有机化学 物理 生物化学 纳米技术 计算机科学 化学工程 内科学 复合材料 物理化学 电极 遗传学 量子力学 基因 冶金 催化作用
热门帖子
关注 科研通微信公众号,转发送积分 3818646
求助须知:如何正确求助?哪些是违规求助? 3361710
关于积分的说明 10413854
捐赠科研通 3079926
什么是DOI,文献DOI怎么找? 1693653
邀请新用户注册赠送积分活动 814550
科研通“疑难数据库(出版商)”最低求助积分说明 768248