Towards Robust and Secure Embodied AI: A Survey on Vulnerabilities and Attacks

计算机科学 计算机安全 软件部署 分类学(生物学) 脆弱性(计算) 欺骗攻击 稳健性(进化) 具身认知 威胁模型 组分(热力学) 生存能力 安全编码 弹性(材料科学) 脆弱性评估 概念框架 数据科学 人机交互 钥匙(锁) 感知 蜜罐 推论
作者
Wenpeng Xing,Minghao Li,Mohan Li,Meng Han
出处
期刊:ACM Computing Surveys [Association for Computing Machinery]
卷期号:58 (12): 1-36 被引量:4
标识
DOI:10.1145/3806048
摘要

Embodied AI systems, integrating Large Vision-Language Models (LVLMs) and Large Language Models (LLMs) with physical actuators and sensors, face unique robustness and security challenges stemming from the complex interplay between perception, cognition, and actuation in real-world environments. This survey provides a systematic analysis of these vulnerabilities and associated attack surfaces. We propose a tripartite vulnerability taxonomy comprising foundational, integration, and contextual risks. Foundational vulnerabilities arise from inherent limitations in current AI architectures and training paradigms; Integration vulnerabilities emerge from the composition of cyber-physical components; And contextual vulnerabilities stem from dynamic physical environments and deployment conditions. Correspondingly, we present a comprehensive attack taxonomy that encompasses foundational attacks on LLMs/LVLMs (including logits-based, optimization-based, prompt-based, and cross-modality attacks), integration-level cybersecurity threats (such as man-in-the-middle, firmware, side-channel, and supply chain attacks), and contextual attacks (primarily sensor spoofing across multiple modalities). We further examine representative failure modes of the cognitive core, review existing evaluation methodologies and benchmarks, and synthesize a multi-layer defense framework that integrates perceptual redundancy, runtime monitoring, and hardware-enforced safety mechanisms. This work offers a unified conceptual framework and practical roadmap for designing and evaluating robust, secure Embodied AI systems in safety-critical real-world deployments.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
xzd1014发布了新的文献求助10
2秒前
阳光问安完成签到 ,获得积分0
3秒前
Serena完成签到 ,获得积分10
3秒前
3秒前
酷波er应助Jiaox采纳,获得10
3秒前
zmy发布了新的文献求助10
3秒前
hyh发布了新的文献求助10
4秒前
维生素完成签到,获得积分0
4秒前
科研通AI6.4应助zhai采纳,获得10
5秒前
科研通AI6.4应助zhai采纳,获得10
5秒前
Song发布了新的文献求助10
6秒前
万能图书馆应助yexu采纳,获得10
7秒前
大模型应助淇淇采纳,获得10
7秒前
xxxx发布了新的文献求助10
7秒前
夜轩岚发布了新的文献求助10
10秒前
研友_VZG7GZ应助Helium采纳,获得10
10秒前
11秒前
13秒前
13秒前
666完成签到,获得积分10
14秒前
14秒前
搞笑煎蛋完成签到 ,获得积分10
14秒前
15秒前
15秒前
hyh完成签到,获得积分10
15秒前
邓文博完成签到 ,获得积分10
15秒前
fofo完成签到,获得积分10
17秒前
18秒前
淇淇发布了新的文献求助10
19秒前
19秒前
20秒前
20秒前
英吉利25发布了新的文献求助10
20秒前
lun发布了新的文献求助10
21秒前
21秒前
hhhh777完成签到 ,获得积分10
21秒前
22秒前
hhhhhhan616发布了新的文献求助10
22秒前
22秒前
彩色甜瓜完成签到 ,获得积分10
23秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Reducing Compassion Fatigue, Secondary Traumatic Stress and Burnout 600
China Pluperfect I: Epistemology of Past and Outside in Chinese Art 520
Matrix Methods in Data Mining and Pattern Recognition Second Edition 510
Mammalian Synthetic Biology 500
Auslegungsgeschichte 500
Cosmos as Art Object: Studies in Plato's Timaeus and Other Dialogues 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7639066
求助须知:如何正确求助?哪些是违规求助? 9212206
关于积分的说明 19761593
捐赠科研通 7205836
什么是DOI,文献DOI怎么找? 3275955
关于科研通互助平台的介绍 2437529
邀请新用户注册赠送积分活动 2273219