标题 |
![]() Anole:在移动设备上采用不同的压缩模型进行跨场景预测
相关领域
计算机科学
人工智能
|
网址 | |
DOI | |
其它 |
摘要: 新兴的物联网人工智能 (AIoT) 应用程序希望在移动设备上使用深度神经网络 (DNN) 模型进行在线预测。然而,由于设备的移动,不断出现不熟悉的测试样本,严重影响了预训练 DNN 的预测精度。此外,不稳定的网络连接需要本地模型推理。在本文中,我们提出了一种称为 Anole 的轻量级方案,用于处理移动设备上的本地 DNN 模型推理。Anole 的核心思想是首先建立一支紧凑的 DNN 模型大军,然后自适应地选择最适合当前测试样本的模型进行在线推理。关键是自动识别模型友好型场景,以训练特定于场景的 DNN 模型。为此,我们设计了一种弱监督场景表示学习算法,在分离场景中结合了人类启发式和特征相似性。此外,我们进一步训练了一个模型分类器,以预测每个测试样本最适合的特定场景的 DNN 模型。我们在不同类型的移动设备上实施 Anole,并基于无人机 (UAV) 进行了广泛的跟踪驱动和真实世界实验。结果表明,Anole 在预测精度(提高 4.5%)、响应时间(提高 33.1%)和功耗(降低 45.1%)方面胜过使用多功能大型 DNN 的方法。 |
求助人 | |
下载 | 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。 |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|