Efficient and Privacy-Preserving Federated Knowledge Learning for Distributed LLM

计算机科学 联合学习 分布式数据库 分布式学习 基于知识的系统 万维网 移动计算 知识管理 知识库 计算机网络 服务器 知识获取 知识抽取 移动设备 知识工程 分布式计算 钥匙(锁) 领域知识 知识表示与推理 分布式知识
作者
Wei Sun,Xianda Wang,Zhicheng Liang,Tianyi Gong,Wanshun Lan,Yingchun Chen,Haoyue Li,Fangxin Wang
出处
期刊:IEEE Transactions on Mobile Computing [IEEE Computer Society]
卷期号:25 (8): 12653-12669 被引量:2
标识
DOI:10.1109/tmc.2026.3674545
摘要

Federated learning (FL) stands out as a promising solution to address the ever-increasing data scarcity problem of large language model (LLM) training through collecting data from distributed sources. The unique challenges however exist in three aspects, the extreme large communication overhead due to frequent model aggregation, the suboptimal performance due to data heterogeneity, and privacy leakage risk due to model parameter exchange. To address these issues, we propose Federated Knowledge Learning (FKL), a novel token-level knowledge sharing framework tailored for LLM to achieve effective task relevant knowledge aggregation. FKL offers the following advantages: (1) Adaptive Flexibility: Clients and servers can employ models customized for their specific tasks while ensuring seamless collaboration. Each node within the system functions independently and can be flexibly adapted as needed. (2) Communication Efficiency: Instead of huge model or parameter exchange, the unique knowledge sharing mechanism of FKL can significantly reduce the communication overhead while delivering superior performance. (3) Privacy Safeguards: The distributed token-level knowledge-sharing mechanism ensures privacy by deidentifying sensitive information and mitigating potential leakage risks. Experiments on LLMs (125M-7B parameters) validate FKL's versatility, achieving 50% higher accuracy on GLUE benchmarks and a notable 0.7x improvement in privacy task response quality compared to existing FL-based LLM approaches.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
刚刚
刚刚
刚刚
1秒前
salute_sang完成签到,获得积分10
1秒前
科研通AI6.3的应助被白色采纳,获得10
1秒前
1秒前
yujihaiasdfg发布了新的文献求助10
2秒前
2秒前
2秒前
3秒前
LW90完成签到,获得积分10
3秒前
yuxing发布了新的文献求助10
3秒前
4秒前
lulu发布了新的文献求助10
4秒前
4秒前
4秒前
5秒前
柴六斤发布了新的文献求助10
5秒前
无花果的应助被2499297293采纳,获得10
5秒前
6秒前
梅特福斯完成签到,获得积分10
6秒前
6秒前
科目三的应助被活力定帮采纳,获得10
6秒前
Nasser发布了新的文献求助30
7秒前
7秒前
7秒前
sqqx发布了新的文献求助10
7秒前
搜集达人的应助被arT采纳,获得10
7秒前
超帅傲白发布了新的文献求助10
8秒前
小桃完成签到,获得积分10
8秒前
8秒前
ttttt发布了新的文献求助10
8秒前
9秒前
断剑的应助被来一杯忌廉采纳,获得30
9秒前
汉堡包的应助被plj采纳,获得10
9秒前
hah发布了新的文献求助10
9秒前
9秒前
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
Resource Recovery Handbook 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8175653
求助须知:如何正确求助?哪些是违规求助? 9567273
关于积分的说明 21791766
捐赠科研通 7770183
什么是DOI,文献DOI怎么找? 3431873
关于科研通互助平台的介绍 2556250
邀请新用户注册赠送积分活动 2477299