标题 |
![]() 在具有低延迟网络的异构物联网设备上划分深度神经网络以实现最佳流水线推理
相关领域
计算机科学
延迟(音频)
推论
人工神经网络
深层神经网络
物联网
分布式计算
计算机网络
人工智能
嵌入式系统
电信
|
网址 | |
DOI | |
其它 |
摘要: 管道并行化是一种有效的技术,可以在资源受限的 IoT 设备上高效执行深度神经网络 (DNN) 推理。为了在具有低延迟网络的异构计算节点上支持管道并行化,我们提出了 DNNPipe,这是一种 DNN 分区算法,可为给定的 DNN 构建管道计划。DNNPipe 的主要目标是最大限度地提高 DNN 推理的吞吐量,同时最大限度地减少 DNN 分区的运行时开销,DNN 分区在动态变化的 IoT 环境中重复执行。为此,DNNPipe 使用动态规划进行详尽的探索,以找到其最大阶段执行时间不大于任何其他可能的管道计划的最佳管道计划。此外,它还使用所有可能的管道计划的最大阶段执行时间中的最小值上限来积极修剪次优管道计划。实验结果表明,与 PipeEdge(已知最快的最佳 DNN 分区算法)相比,DNNPipe 显著减少了其执行时间和迭代次数。 |
求助人 | |
下载 | 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。 |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|