| 标题 |
Task-Aware Collaborative Inference and Fine-Grained DNN Partitioning in MEC Networks |
| 网址 | |
| DOI | |
| 其它 |
摘要: 由于智能应用的快速发展,移动设备(MD)越来越多地将深度神经网络(DNN)推理技术集成到其系统中。基于移动边缘计算的分布式DNN协同推理因设备端计算能力有限和能源预算有限而日益流行。然而,多元数据之间的资源竞争,以及多元数据和服务器间协作推理任务的耦合,给高效资源管理带来了重大挑战。这一问题因有向无环图(DAG)结构的DNNs的复杂性而加剧。大多数先前研究并未共同解决复杂结构DNN划分和利用先进优化进行协作推断的双重挑战,其对通道条件波动的韧性仍未被充分探索。为应对这些挑战,我们提出了一种新的任务感知协作推理框架。首先,我们设计了基于双向图链表的细粒度划分点搜索算法,实现了DAG结构DNN的一维且灵活的划分。随后,我们将最小化协作推理能耗和延迟的问题重新表述为任务感知马尔可夫决策过程(MDP),将每个用户的推理任务队列划分为连续的任务窗口以分配资源。基于此,我们提出了一种嵌入式多代理混合近端策略优化(EMH-PPO)算法,用于学习有效的策略。在多种网络场景中进行的大量实验表明,与MD上的局部DNN推断相比,我们提出的方法可将推理延迟降低多达64%,能耗降低46%。 |
| 求助人 | |
| 下载 | 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。 |
PDF的下载单位、IP信息已删除
(2025-6-4)