GTG-Shapley: Efficient and Accurate Participant Contribution Evaluation in Federated Learning

计算机科学 夏普里值 截断(统计) 激励 计算 质量(理念) 块(置换群论) 数学优化 机器学习 人工智能 算法 博弈论 数理经济学 数学 微观经济学 几何学 哲学 经济 认识论
作者
Zelei Liu,Yuanyuan Chen,Han Yu,Yang Liu,Lizhen Cui
出处
期刊:ACM Transactions on Intelligent Systems and Technology [Association for Computing Machinery]
卷期号:13 (4): 1-21 被引量:112
标识
DOI:10.1145/3501811
摘要

Federated Learning (FL) bridges the gap between collaborative machine learning and preserving data privacy. To sustain the long-term operation of an FL ecosystem, it is important to attract high-quality data owners with appropriate incentive schemes. As an important building block of such incentive schemes, it is essential to fairly evaluate participants’ contribution to the performance of the final FL model without exposing their private data. Shapley Value (SV)–based techniques have been widely adopted to provide a fair evaluation of FL participant contributions. However, existing approaches incur significant computation costs, making them difficult to apply in practice. In this article, we propose the Guided Truncation Gradient Shapley (GTG-Shapley) approach to address this challenge. It reconstructs FL models from gradient updates for SV calculation instead of repeatedly training with different combinations of FL participants. In addition, we design a guided Monte Carlo sampling approach combined with within-round and between-round truncation to further reduce the number of model reconstructions and evaluations required. This is accomplished through extensive experiments under diverse realistic data distribution settings. The results demonstrate that GTG-Shapley can closely approximate actual Shapley values while significantly increasing computational efficiency compared with the state-of-the-art, especially under non-i.i.d. settings.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
wcliu1006发布了新的文献求助10
刚刚
刚刚
weihello完成签到,获得积分10
1秒前
1秒前
超级冬天发布了新的文献求助10
3秒前
活力的巧凡完成签到 ,获得积分10
5秒前
5秒前
6秒前
7秒前
amanda发布了新的文献求助10
7秒前
小岛发布了新的文献求助10
7秒前
wzc完成签到,获得积分10
7秒前
8秒前
bkagyin应助细心难摧采纳,获得30
8秒前
8秒前
小宋完成签到,获得积分10
10秒前
10秒前
JWonder完成签到,获得积分10
10秒前
整齐不悔完成签到,获得积分10
11秒前
小二郎应助无限的鸡翅采纳,获得10
11秒前
butter发布了新的文献求助10
12秒前
廉泽发布了新的文献求助10
13秒前
zhao发布了新的文献求助10
13秒前
英俊的铭应助星沉静默采纳,获得10
15秒前
16秒前
科研kkkkkkkk完成签到,获得积分10
17秒前
Dean应助isakkk采纳,获得50
17秒前
19秒前
乐乐应助寒冷归尘采纳,获得30
19秒前
memory应助真实的海豚采纳,获得10
19秒前
随便起个昵称吧完成签到,获得积分20
19秒前
爆米花应助lzh采纳,获得10
20秒前
小蘑菇应助眯眯眼的采纳,获得10
21秒前
科研通AI6.1应助酒梅子采纳,获得50
21秒前
21秒前
25秒前
万事OK发布了新的文献求助10
26秒前
爆米花应助小岛采纳,获得10
26秒前
123完成签到,获得积分10
27秒前
27秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Development Across Adulthood 1000
Chemistry and Physics of Carbon Volume 18 800
The formation of Australian attitudes towards China, 1918-1941 660
Signals, Systems, and Signal Processing 610
天津市智库成果选编 600
全相对论原子结构与含时波包动力学的理论研究--清华大学 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6449946
求助须知:如何正确求助?哪些是违规求助? 8262414
关于积分的说明 17603248
捐赠科研通 5513662
什么是DOI,文献DOI怎么找? 2903176
邀请新用户注册赠送积分活动 1880247
关于科研通互助平台的介绍 1721722