An Adaptive Federated Learning Algorithm with Attenuated Memory on Non-IID and Long-Tail Data

计算机科学 软件 数据共享 信息隐私 联合学习 大数据 算法 对偶(语法数字) 数据挖掘 分布式学习 北京 分布式数据库 机器学习 人工智能 差别隐私 共享内存 密码学 数据建模 信息敏感性 数据存取
作者
Zhenyuan Huang,Haijun Yang,Harris Wu,C. Han Yang
出处
期刊:Informs Journal on Computing [Institute for Operations Research and the Management Sciences]
标识
DOI:10.1287/ijoc.2024.0765
摘要

Data sharing and privacy protection in the business sector present dual challenges, especially in the financial and medical fields. We propose an adaptive federated learning algorithm with attenuated memory (AFLAM) to address three critical problems in federated learning: nonindependently and nonidentically distributed (non-IID), long-tail distribution, and privacy. AFLAM dynamically recalculates each client’s weight with attenuated memory of the gradient history to mitigate bias from non-IID data, enhancing the modeling ability of tail data. AFLAM protects privacy by transmitting scaled instead of true gradient information. Two AFLAM algorithms, client-based and parameter-based, are proposed. AFLAM performs better with non-IID and long-tail distribution than existing state-of-the-art methods, improving accuracy by up to 5.71%. Our algorithm provides a novel approach to data sharing and privacy protection challenges. History: Accepted by Ram Ramesh, Area Editor for Data Science & Machine Learning. Funding: H. Yang is grateful for financial support from the National Natural Science Foundation of China [Grant 71771006] and the Beijing Jianlong Heavy Industry Program [Grant 20251202]. Supplemental Material: The software that supports the findings of this study is available within the paper and its Supplemental Information ( https://pubsonline.informs.org/doi/suppl/10.1287/ijoc.2024.0765 ) as well as from the IJOC GitHub software repository ( https://github.com/INFORMSJoC/2024.0765 ). The complete IJOC Software and Data Repository is available at https://informsjoc.github.io/ .
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
1秒前
领导范儿的应助被leo采纳,获得10
1秒前
1秒前
4444455555555完成签到,获得积分10
1秒前
1秒前
领导范儿的应助被喜悦桥采纳,获得20
1秒前
伶俐衣完成签到,获得积分10
2秒前
2秒前
qqe发布了新的文献求助10
2秒前
2秒前
2秒前
雾很玫瑰的应助被墨尘采纳,获得10
4秒前
4秒前
Gt完成签到,获得积分10
4秒前
李健的应助被加加加佳采纳,获得10
4秒前
flyman发布了新的文献求助10
4秒前
爆米花的应助被QFJ采纳,获得20
4秒前
Bin的应助被小林喜采纳,获得10
5秒前
南歪歪发布了新的文献求助10
5秒前
阿长完成签到 ,获得积分10
5秒前
Hello的应助被sharony采纳,获得10
5秒前
明天会更好完成签到,获得积分10
5秒前
勤恳南风发布了新的文献求助10
5秒前
5秒前
郭芙蓉发布了新的文献求助10
5秒前
风趣手链完成签到,获得积分10
6秒前
Jasper的应助被HIBARA采纳,获得10
6秒前
孙栗吱完成签到 ,获得积分10
6秒前
6秒前
FashionBoy的应助被孤独的鸟采纳,获得10
7秒前
南京市民的应助被青竹点雨采纳,获得10
7秒前
7秒前
小阿志发布了新的文献求助10
7秒前
小巫见大巫完成签到,获得积分20
7秒前
8秒前
sun完成签到,获得积分10
8秒前
王八发布了新的文献求助10
8秒前
碧蓝笑槐发布了新的文献求助10
9秒前
RichBaoaoo完成签到 ,获得积分10
9秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8162621
求助须知:如何正确求助?哪些是违规求助? 9556889
关于积分的说明 21737583
捐赠科研通 7753002
什么是DOI,文献DOI怎么找? 3427836
关于科研通互助平台的介绍 2552719
邀请新用户注册赠送积分活动 2472507