CISMG-Nav: A Cross-Task Incremental Semantic Memory Graph-Driven Vision-and-Language Navigation Framework

计算机科学 人工智能 自然语言处理 语义学(计算机科学) 语义记忆 特征(语言学) 语义特征 组分(热力学) 语义数据模型 领域(数学) 召回 语义网络
作者
Yuying Xi,Shuo Liu,Bao Jun Pang,Tuo Zhou,Yong Hua Song,Xianfeng Yuan,Qingyang Xu
出处
期刊:IEEE robotics and automation letters [Institute of Electrical and Electronics Engineers]
卷期号:11 (8): 9447-9454
标识
DOI:10.1109/lra.2026.3703976
摘要

Vision-and-Language Navigation (VLN) is a crucial indicator for evaluating embodied intelligence. However, existing VLN methods face several challenges. First, the agent typically relies only on short-term memory, making it difficult to reuse accumulated experiences and environmental perceptions. Second, the semantic topological graph exhibits an inherent contradiction between representation granularity and computational efficiency, while its relational reasoning capability remains fundamentally limited. To address these issues, this letter proposes a Cross-task Incremental Semantic Memory Graph-Driven Vision-and-Language Navigation Framework (CISMG-Nav). The agent stores and updates environmental perception information by maintaining a Cross-task Incremental Semantic Memory Graph (CISMG). Specifically, CISMG integrates topological structures with semantic attributes. The observed semantic information is structurally encoded as nodes with semantic attributes, while edges represent reachability relations. Additionally, commonsense co-occurring objects are introduced to enhance semantic expressiveness and relational reasoning capability. We further propose a global-local hierarchical navigation strategy. At the global level, the agent performs semantic-guided path planning based on the CISMG, while at the local level, it achieves fine-grained goal location through a large language model. Experiments on R2R-CE dataset and real-world environments demonstrate that CISMG-Nav significantly improves navigation success rates. Compared with existing training-free methods, our framework maintains a zero-shot setting while achieving superior performance.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Rainsky完成签到 ,获得积分10
刚刚
naomi完成签到 ,获得积分10
刚刚
忆深完成签到,获得积分10
刚刚
可爱的函函的应助被times采纳,获得10
1秒前
GEM明完成签到,获得积分10
3秒前
852的应助被斯文的凝蝶采纳,获得10
3秒前
Sleep_tight完成签到,获得积分10
3秒前
默默洋葱完成签到,获得积分10
4秒前
4秒前
科研通AI2S的应助被平常马里奥采纳,获得10
4秒前
5秒前
5秒前
5秒前
晴日海风吹完成签到 ,获得积分10
6秒前
调皮雁凡完成签到 ,获得积分10
6秒前
嘻嘻哈哈的应助被黑煤球采纳,获得10
7秒前
8秒前
ryan发布了新的文献求助10
8秒前
DJL完成签到 ,获得积分10
8秒前
Ava的应助被行之采纳,获得10
9秒前
纯真笑白发布了新的文献求助10
9秒前
LLL完成签到,获得积分10
10秒前
likes发布了新的文献求助30
11秒前
刘甜甜完成签到,获得积分10
11秒前
11秒前
高高小笼包完成签到,获得积分10
12秒前
元吉发布了新的文献求助10
13秒前
swt发布了新的文献求助10
13秒前
14秒前
赤川川川完成签到 ,获得积分10
14秒前
15秒前
黑煤球完成签到,获得积分10
15秒前
16秒前
16秒前
坚强的玉米完成签到,获得积分10
17秒前
科研通AI6.2的应助被小熊采纳,获得30
17秒前
17秒前
18秒前
19秒前
滴滴答答发布了新的文献求助10
21秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Encyclopedia of Modern Artificial Intelligence 1000
Особенности технологий и методов информационно-психологических войн СССР с Великобританией и США в период 1939-1953 гг 1000
Das Matthäusevangelium: Kapitel 1:1–17 1000
IRTSD: Open-Source Data and Toolset for Electromagnetic Transient Analysis of Disturbances and IBR Control Malfunctions in Transmission Systems 1000
Challenging Attachment Theory 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8138138
求助须知:如何正确求助?哪些是违规求助? 9538853
关于积分的说明 21632097
捐赠科研通 7722172
什么是DOI,文献DOI怎么找? 3420474
关于科研通互助平台的介绍 2545716
邀请新用户注册赠送积分活动 2462402