标题 |
![]() CoCaR:在MEC中实现高效的基于DNN的动态模型缓存和请求路由
|
网址 | |
DOI |
10.1109/INFOCOM55648.2025.11044457
doi
|
其它 |
摘要: 移动边缘计算(MEC)可以在终端用户附近预缓存深度神经网络(DNN),提供低延迟服务,提高用户体验质量(QoE)。然而,在容量有限的边缘服务器上缓存所有DNN模型是困难的,并且模型加载时间对QoE的影响也没有得到充分探索。因此,我们在边缘场景中引入了动态DNN,将一个完整的DNN模型拆解为相互关联的子模型,以实现更细粒度、更灵活的模型缓存和请求路由解决方案。此外,这还提出了动态DNN联合决策请求路由和子模型缓存的紧迫问题,以平衡模型推理精度和加载延迟以进行QoE优化。本文研究了MEC网络中动态模型缓存和请求路由的联合问题,旨在在服务器资源、延迟和模型加载时间的约束下最大限度地提高用户请求推理精度。为了解决这个问题,我们提出了 CoCaR,这是一种基于线性规划和随机舍入的算法,它利用动态 DNN 来优化缓存和路由方案,实现近乎最佳的性能。仿真结果表明,与最先进的基线相比,所提出的CoCaR实现了显著的性能改进。 |
求助人 | |
下载 | 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。 |