清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

S 2 -CIM: A 28-nm 68.9- μ J/Token Digital CIM Accelerator With Statistics-Aware Access and Computation for KV Sharing-Enabled LLM Inference

计算机科学 计算 电子工程 推论 电气工程 数字信号处理 信号处理 电子设计自动化 数字电子学 电网 等效电路 计算机硬件
作者
Bo Liu,Xilong Kang,Weixuan Wang,Yang Zhang,Bo Hu,Xinyang Chen,Xin Cao,Xinming Yan,Yuan Song,Zihan Zou,Zhen Wang,Xin Si,Hao Cai
出处
期刊:IEEE Transactions on Circuits and Systems I-regular Papers [Institute of Electrical and Electronics Engineers]
卷期号:: 1-14
标识
DOI:10.1109/tcsi.2026.3742618
摘要

Large language models (LLMs) have become a core component of modern intelligence systems. However, their considerable amount of parameters and auto-regressive decoding nature has led to a surge in data transfer and computation. Computing-in-Memory (CIM) architectures are widely accepted as a promising paradigm for accelerating LLM inference by mitigating the memory wall. Yet previous works on CIM neglect the evolution trend of Key-Value (KV) sharing mechanism. Furthermore, directly mapping this mechanism onto conventional CIM introduces mismatches that span from off-chip data movement to on-chip operation execution. To bridge the gap between KV sharing mechanism and CIM architecture, we present S2-CIM, a statistics-aware CIM accelerator that progressively exploits the intrinsic data non-uniformity within KV sharing-enabled LLMs across three levels: 1) A page-aware sparsity scheduler that densifies fragmented KV cache access patterns into group-wise compact fetches, reducing external memory access by 66.1%; 2) A pattern-aware 4-2 compressor that simplifies accumulation logic by injecting zero-expectation errors into low-probability bit patterns, saving 32.4% area and 55.7% energy; 3) A special function converter that transforms non-linear operations into CIM-native multiply-accumulate operations via curvature-proportional radix-2 interpolation, reducing system-level latency by 18.2%. Fabricated in 28nm CMOS, S2-CIM achieves a peak energy efficiency of 116.83TOPS/W and delivers an average energy cost of$172.5\mu $J/token on LLaMA3.1-8B, representing$1.31\times $–$2.57\times $energy savings over the state-of-the-art CIM accelerators with only 0.23 perplexity degradation.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
夏雪儿完成签到,获得积分10
1秒前
昏睡的友菱完成签到,获得积分10
6秒前
6秒前
6秒前
糟糕的问丝完成签到,获得积分10
7秒前
科研通AI6.4的应助被纯情的阁采纳,获得10
12秒前
14秒前
北极星完成签到 ,获得积分10
16秒前
简单代梅完成签到,获得积分10
17秒前
18秒前
29秒前
体贴的小霜完成签到,获得积分10
32秒前
33秒前
精明的彩虹完成签到,获得积分10
35秒前
科研通AI6.4的应助被纯情的阁采纳,获得10
37秒前
科研通AI6.2的应助被纯情的阁采纳,获得10
38秒前
所所的应助被纯情的阁采纳,获得30
38秒前
38秒前
顺心安雁完成签到,获得积分10
42秒前
46秒前
49秒前
桐桐的应助被西红柿采纳,获得10
53秒前
55秒前
Qian完成签到 ,获得积分10
55秒前
动听一德完成签到,获得积分10
1分钟前
1分钟前
无语的羞花完成签到,获得积分10
1分钟前
1分钟前
1分钟前
纯情的阁发布了新的文献求助10
1分钟前
1分钟前
纯情的阁发布了新的文献求助30
1分钟前
纯情的阁发布了新的文献求助10
1分钟前
1分钟前
纯情的阁发布了新的文献求助10
1分钟前
1分钟前
缥缈的鸡翅完成签到,获得积分10
1分钟前
科研通AI6.4的应助被纯情的阁采纳,获得10
1分钟前
1分钟前
故意的冷安完成签到,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8158905
求助须知:如何正确求助?哪些是违规求助? 9554522
关于积分的说明 21719373
捐赠科研通 7748459
什么是DOI,文献DOI怎么找? 3427107
关于科研通互助平台的介绍 2552006
邀请新用户注册赠送积分活动 2471370