亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

DriveMoE: Mixture-of-Experts for Vision-Language-Action Model in End-to-End Autonomous Driving

动作(物理) 计算机科学 背景(考古学) 人工智能 路由器 具身认知 组分(热力学) 人机交互 编码(集合论) 建筑 驾驶模拟器 视觉感受 机器视觉 工程类 自主系统(数学) 动作选择 计算机视觉 方案(数学) 主动感知 系统体系结构 模拟 机器人学 视觉处理 培训(气象学) 眼动
作者
Zhenjie Yang,Chai, Yilin,Xiaosong Jia,Li, Qifeng,Yuqian Shao,Zhu, Xuekai,Su, Haisheng,Junchi Yan
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:85
标识
DOI:10.48550/arxiv.2505.16278
摘要

End-to-end autonomous driving (E2E-AD) demands effective processing of multi-view sensory data and robust handling of diverse and complex driving scenarios, particularly rare maneuvers such as aggressive turns. Recent success of Mixture-of-Experts (MoE) architecture in Large Language Models (LLMs) demonstrates that specialization of parameters enables strong scalability. In this work, we propose DriveMoE, a novel MoE-based E2E-AD framework, with a Scene-Specialized Vision MoE and a Skill-Specialized Action MoE. DriveMoE is built upon our $π_0$ Vision-Language-Action (VLA) baseline (originally from the embodied AI field), called Drive-$π_0$. Specifically, we add Vision MoE to Drive-$π_0$ by training a router to select relevant cameras according to the driving context dynamically. This design mirrors human driving cognition, where drivers selectively attend to crucial visual cues rather than exhaustively processing all visual information. In addition, we add Action MoE by training another router to activate specialized expert modules for different driving behaviors. Through explicit behavioral specialization, DriveMoE is able to handle diverse scenarios without suffering from modes averaging like existing models. In Bench2Drive closed-loop evaluation experiments, DriveMoE achieves state-of-the-art (SOTA) performance, demonstrating the effectiveness of combining vision and action MoE in autonomous driving tasks. We will release our code and models of DriveMoE and Drive-$π_0$.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
4秒前
刘澜旭发布了新的文献求助10
11秒前
正直的剑愁完成签到,获得积分10
21秒前
24秒前
30秒前
追寻醉易完成签到,获得积分10
31秒前
狐狸发布了新的文献求助10
32秒前
可爱的函函的应助被刘澜旭采纳,获得10
41秒前
忧郁的涵雁完成签到 ,获得积分10
58秒前
Jasper的应助被科研通管家采纳,获得10
59秒前
louis861933完成签到,获得积分10
1分钟前
细腻伯云完成签到,获得积分10
1分钟前
文静楷瑞完成签到,获得积分10
1分钟前
沉着且呵呵完成签到,获得积分10
1分钟前
1分钟前
风华完成签到,获得积分10
1分钟前
研友_Zlepz8发布了新的文献求助10
1分钟前
1分钟前
uss完成签到,获得积分10
2分钟前
2分钟前
专一的思菱完成签到,获得积分10
2分钟前
BadYan完成签到,获得积分10
2分钟前
cathyfly1006发布了新的文献求助10
2分钟前
不安碧灵完成签到,获得积分10
2分钟前
3分钟前
机灵寄柔完成签到,获得积分10
3分钟前
3分钟前
拉长的映波完成签到,获得积分10
3分钟前
落寞曼柔完成签到 ,获得积分10
3分钟前
俭朴映寒完成签到,获得积分10
4分钟前
林海完成签到 ,获得积分10
4分钟前
北欧森林完成签到,获得积分10
4分钟前
愉快飞薇完成签到,获得积分10
4分钟前
Voiceless完成签到,获得积分10
4分钟前
4分钟前
在水一方的应助被经十路以东采纳,获得10
4分钟前
cathyfly1006发布了新的文献求助10
4分钟前
yangquanquan发布了新的文献求助10
4分钟前
cathyfly1006完成签到,获得积分10
5分钟前
ding的应助被经十路以东采纳,获得10
5分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Особенности технологий и методов информационно-психологических войн СССР с Великобританией и США в период 1939-1953 гг 1000
Das Matthäusevangelium: Kapitel 1:1–17 1000
IRTSD: Open-Source Data and Toolset for Electromagnetic Transient Analysis of Disturbances and IBR Control Malfunctions in Transmission Systems 1000
Entre Praga y Madrid : los contactos checoslovaco-españoles (1948-1977) 600
A REVIEW OF THE V-22 DYNAMICS VALIDATION PROGRAM 600
Les Mots du discours 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8122943
求助须知:如何正确求助?哪些是违规求助? 9527001
关于积分的说明 21563692
捐赠科研通 7702378
什么是DOI,文献DOI怎么找? 3415816
关于科研通互助平台的介绍 2541511
邀请新用户注册赠送积分活动 2456319