| 标题 |
EdgeManager: Online Adaptive Resource Management for Hierarchical DNN Inference in Collaborative Edge Environments |
| 网址 | |
| DOI | |
| 其它 |
摘要: 人工智能(AI)和物联网(IoT)技术的快速整合,带来了AIoT应用的激增,显著提升了多用户、多任务场景下对计算和通信资源的需求。一个关键挑战在于高效管理资源分配,以确保多样化深度神经网络(DNN)推理任务的服务质量(QoS)。现有的边缘云协作推理方法通过分层资源管理部分解决了这一问题;然而,这些方法常常忽视计算、通信和数据质量的联合优化,忽视了动态环境中系统的长期稳定性。为解决这些局限性,我们提出了EdgeManager,一个在线自适应资源管理框架,用于协作异构边缘环境中的分层DNN推断。具体来说,我们提出了一个混合整数非线性规划(MINLP)优化问题,旨在平衡推理准确性和延迟。利用李雅普诺夫优化,我们将复杂的多阶段动态优化问题转化为每个时隙可管理的确定性子问题,确保长期稳定性。此外,我们介绍了HyDRL-MO,这是一种结合无模型深度强化学习(DRL)与基于模型的多决策优化技术的混合方法,以实现高效且稳定的资源分配。广泛的实验评估表明,EdgeManager显著提升了系统性能,与最先进解决方案相比,平均系统效益提升高达42.08%。 |
| 求助人 | |
| 下载 |
PDF的下载单位、IP信息已删除
(2025-6-4)