标题 |
![]() 具有自适应客户端选择和梯度压缩的异构感知联合学习
相关领域
计算机科学
加速
上传
选择(遗传算法)
趋同(经济学)
收敛速度
压缩(物理)
匹配(统计)
分布式计算
机器学习
人工智能
并行计算
计算机网络
频道(广播)
统计
材料科学
数学
经济
复合材料
经济增长
操作系统
|
网址 | |
DOI | |
其它 |
摘要: 联邦学习 (FL) 允许多个客户端协作训练模型,而无需泄露本地数据。然而,现有的工作未能解决联邦学习中的所有实际问题:有限的通信资源、动态的网络条件和异构的客户端属性,这减缓了联邦学习的融合。为了应对上述挑战,我们提出了一个异构感知的 FL 框架,称为 FedCG,具有自适应客户端选择和梯度压缩。具体来说,参数服务器 (PS) 考虑统计异质性选择一个具有代表性的客户端子集,并将全局模型发送给它们。在本地训练后,这些选定的客户端将与其能力相匹配的压缩模型更新上传到 PS 进行聚合,这大大减轻了通信负载并减轻了落后效应。我们从理论上分析了客户端选择和梯度压缩对收敛性能的影响。在推导的收敛率的指导下,我们开发了一种基于迭代的算法,使用子模最大化和线性规划共同优化客户端选择和压缩率决策。对真实原型和模拟的广泛实验表明,与其他方法相比,FedCG 可以提供高达 5.3× 的加速。 |
求助人 | |
下载 | 该求助完结已超 24 小时,文件已从服务器自动删除,无法下载。 |
温馨提示:该文献已被科研通 学术中心 收录,前往查看
科研通『学术中心』是文献索引库,收集文献的基本信息(如标题、摘要、期刊、作者、被引量等),不提供下载功能。如需下载文献全文,请通过文献求助获取。
|