Fast Wireless Foundation Models With Early-Exits

计算机科学 推论 无线 任务(项目管理) 编码器 过程(计算) 代表(政治) 简单(哲学) 无线网络 任务分析 基础(证据) 分布式计算 人工智能 机器学习 实时计算 计算机网络 编码(内存) 计算机工程 吞吐量 Wi-Fi阵列 功率(物理)
作者
Omar Mashaal,Hatem Abou-Zeid
出处
期刊:IEEE Communications Letters [IEEE Communications Society]
卷期号:30: 2605-2609 被引量:1
标识
DOI:10.1109/lcomm.2026.3710677
摘要

While wireless foundation models (FMs) are demonstrating strong potential to enable AI-Native 6G networks, their high computational cost remains a critical barrier to deployment. The large computational cost stems from the rigid, full-depth execution of the FM backbone for every task − a process we show is not only inefficient but can also degrade performance on unseen out-of-distribution (OOD) tasks. In this letter, we propose a novel early-exit FM framework that attaches lightweight, per-task heads, at the most appropriate exit-stage of a frozen wireless FM encoder, enabling variable-depth inference tailored to each task’s preferred representation depth. Our results demonstrate that these intermediate-layer features not only speed-up inference significantly (up to 93% fewer FLOPs), but also provide more transferable representations that exceed the full encoder accuracy on unseen tasks. We further demonstrate that a simple fixed-exit strategy per task is more effective than traditional early-exiting policies that route different samples to different exits based on their perceived difficulty levels.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
罐装完成签到,获得积分10
刚刚
lilibibi完成签到,获得积分10
刚刚
XD完成签到 ,获得积分10
刚刚
Paulfank完成签到,获得积分10
1秒前
旺仔完成签到 ,获得积分10
1秒前
1秒前
远方完成签到,获得积分10
1秒前
打我呀完成签到,获得积分20
2秒前
与卫完成签到,获得积分10
2秒前
科研通AI6.4的应助被morning_ning采纳,获得10
2秒前
JamesPei的应助被Jieeeee采纳,获得10
2秒前
qqqyy完成签到,获得积分10
3秒前
GoodEnough完成签到 ,获得积分10
4秒前
cecilia完成签到,获得积分20
4秒前
聪慧羽毛完成签到,获得积分20
4秒前
每天要睡八小时完成签到,获得积分10
5秒前
COMEON完成签到,获得积分10
5秒前
Chase发布了新的文献求助10
6秒前
哈虎和发布了新的文献求助10
6秒前
笑点低的依云完成签到 ,获得积分10
7秒前
8秒前
自然丹寒完成签到,获得积分10
8秒前
七七关注了科研通微信公众号
9秒前
466完成签到,获得积分10
9秒前
10秒前
10秒前
123完成签到,获得积分10
11秒前
SHENGGE发布了新的文献求助10
13秒前
郑一鸣完成签到,获得积分10
13秒前
权紫易关注了科研通微信公众号
14秒前
科目三的应助被清秀斓采纳,获得10
15秒前
15秒前
楊子发布了新的文献求助10
17秒前
17秒前
SHENGGE完成签到,获得积分20
20秒前
郭竞阳完成签到,获得积分10
21秒前
科研通AI6.2的应助被xiaoxing采纳,获得10
21秒前
学霸业的应助被hrpppp采纳,获得10
22秒前
楊子完成签到,获得积分10
22秒前
Jieeeee发布了新的文献求助10
23秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Spec 401: Standards for Jet Fuel Facility and Equipment Commissioning and Flushing at Airports, 2026.1 (Original Issue) 1000
Spec 103: Standard for Jet Fuel Quality Control at Airports, Revision 2026.1 1000
5th World Conference on Detergents: Reinventing the Industry : Opportunities and Challenges 500
Erzählte Gnade 500
Butadiene hydroxytelechelic oligomers PBHT 500
Illustrated Atlas of Aesthetic Botulinum Toxin Therapy 388
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8104468
求助须知:如何正确求助?哪些是违规求助? 9513814
关于积分的说明 21489133
捐赠科研通 7680767
什么是DOI,文献DOI怎么找? 3409416
关于科研通互助平台的介绍 2537199
邀请新用户注册赠送积分活动 2449312