已入深夜,您辛苦了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!祝你早点完成任务,早点休息,好梦!

DeepSpeed- Inference: Enabling Efficient Inference of Transformer Models at Unprecedented Scale

作者
Reza Yazdani Aminabadi,Samyam Rajbhandari,Ammar Ahmad Awan,Cheng Li,Du Li,Elton Zheng,Olatunji Ruwase,Shaden Smith,Minjia Zhang,Jeff Rasley,Yuxiong He
出处
期刊: 卷期号:: 1-15 被引量:291
标识
DOI:10.1109/sc41404.2022.00051
摘要

The landscape of transformer model inference is increasingly diverse in model size, model characteristics, latency and throughput requirements, hardware requirements, etc. With such diversity, designing a versatile inference system is challenging. DeepSpeed-Inference addresses these challenges by (1) a multi-GPU inference solution to minimize latency while maximizing throughput for both dense and sparse transformers when the model fits in aggregate GPU memory, and (2) a heterogeneous inference solution that leverages CPU/NVMe/GPU memory to enable high-throughput inference for models larger than aggregate GPU memory. DeepSpeed-Inference reduces latency by 6.4× and increases throughput by 1.5 ×over the state-of-the-art. It enables trillion parameter scale inference under real-time latency constraints by leveraging hundreds of GPUs, an unprecedented scale for inference. It can inference 25 ×larger models than with GPU-only solutions, while delivering a high throughput of 84 TFLOPS (over 50% of A6000 peak).

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
WLY完成签到 ,获得积分10
2秒前
健忘豌豆完成签到 ,获得积分10
2秒前
3秒前
wshwx完成签到,获得积分10
3秒前
言_完成签到 ,获得积分10
3秒前
3秒前
mark707完成签到,获得积分10
4秒前
5秒前
的速度发布了新的文献求助10
5秒前
云中漫步完成签到 ,获得积分10
5秒前
shuicaoxi完成签到,获得积分10
5秒前
6秒前
dart1023发布了新的文献求助10
7秒前
7秒前
wintersss完成签到,获得积分10
7秒前
smh完成签到 ,获得积分10
8秒前
无问西东完成签到,获得积分10
8秒前
大力迎丝完成签到,获得积分10
9秒前
10秒前
行走发布了新的文献求助10
13秒前
loserH完成签到,获得积分10
14秒前
yuedi完成签到 ,获得积分10
14秒前
体贴旭尧完成签到,获得积分20
15秒前
sk完成签到 ,获得积分10
15秒前
KaoCt关注了科研通微信公众号
15秒前
俏皮的火龙果完成签到,获得积分10
15秒前
123完成签到 ,获得积分10
16秒前
17秒前
Akim的应助被JUAN123采纳,获得50
18秒前
重要手机完成签到 ,获得积分10
19秒前
19秒前
搞怪人雄完成签到 ,获得积分10
19秒前
Nole的应助被Pittes采纳,获得10
20秒前
软软完成签到,获得积分10
20秒前
BlackSky完成签到 ,获得积分10
20秒前
马达发布了新的文献求助10
21秒前
22秒前
清爽念柏完成签到 ,获得积分10
22秒前
李晨赫发布了新的文献求助10
23秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8189866
求助须知:如何正确求助?哪些是违规求助? 9577019
关于积分的说明 21851254
捐赠科研通 7787798
什么是DOI,文献DOI怎么找? 3435795
关于科研通互助平台的介绍 2559856
邀请新用户注册赠送积分活动 2482699