Hierarchical Planning with Deep Reinforcement Learning for 3D Navigation of Microrobots in Blood Vessels

强化学习 灵活性(工程) 控制器(灌溉) 计算机科学 方案(数学) 人工智能 任务(项目管理) 控制工程 工程类 系统工程 农学 数学 生物 统计 数学分析
作者
Yuguang Yang,Michael A. Bevan,Bo Li
出处
期刊:Advanced intelligent systems [Wiley]
卷期号:4 (11) 被引量:12
标识
DOI:10.1002/aisy.202200168
摘要

Designing intelligent microrobots that can autonomously navigate and perform instructed routines in blood vessels, a crowded environment with complexities including Brownian disturbance, concentrated cells, confinement, different flow patterns, and diverse vascular geometries, can offer enormous opportunities and challenges in biomedical applications. Herein, a biological‐agent mimicking a hierarchical control scheme that enables a microrobot to efficiently navigate and execute customizable routines in simplified blood vessel environments is reported. The control scheme consists of two decoupled components: a high‐level controller decomposing complex navigation tasks into short‐ranged, simpler subtasks and a low‐level deep reinforcement learning (DRL) controller responsible for maneuvering microrobots to accomplish subtasks. The proposed DRL controller utilizes 3D convolutional neural networks and is capable of learning control policies directly from raw 3D sensory data. It is shown that such a control scheme achieves effective and robust decision‐making within unseen, diverse complicated environments and offers flexibility for customizable task routines. This study provides a proof of principle for designing intelligent control systems for autonomous navigation in vascular networks for microrobots.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
xl的应助被时尚问筠采纳,获得10
刚刚
情怀的应助被wawawang采纳,获得10
刚刚
Aquarius完成签到,获得积分10
刚刚
青山发布了新的文献求助10
刚刚
白白白发布了新的文献求助10
刚刚
梅赛德斯奔驰完成签到,获得积分0
1秒前
可宝想当富婆完成签到 ,获得积分10
1秒前
嘻嘻哈哈的应助被善莫大焉采纳,获得10
1秒前
学术饕餮完成签到,获得积分10
1秒前
火乐完成签到,获得积分10
1秒前
1秒前
1秒前
热心小天鹅完成签到,获得积分10
2秒前
小二郎的应助被开心的老虎采纳,获得10
2秒前
2秒前
PhysicsXX完成签到,获得积分10
2秒前
常常完成签到,获得积分10
2秒前
小金同学发布了新的文献求助10
2秒前
rosy完成签到,获得积分10
2秒前
干净映天完成签到,获得积分10
3秒前
哈哈哈完成签到,获得积分10
3秒前
3秒前
康康发布了新的文献求助10
3秒前
李鑫完成签到,获得积分10
3秒前
Rocky_Qi发布了新的文献求助10
4秒前
鳗鱼颖完成签到,获得积分10
4秒前
4秒前
mia发布了新的文献求助10
4秒前
哟哟哟完成签到,获得积分10
5秒前
ada发布了新的文献求助10
5秒前
5秒前
Ferry完成签到,获得积分10
5秒前
DCC完成签到,获得积分10
5秒前
研友_5Z4ZA5完成签到,获得积分10
5秒前
5秒前
飞飞号发布了新的文献求助30
5秒前
ZZZ发布了新的文献求助20
5秒前
852的应助被飘逸的梦竹采纳,获得10
6秒前
6秒前
难受完成签到,获得积分10
6秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8159633
求助须知:如何正确求助?哪些是违规求助? 9555145
关于积分的说明 21725138
捐赠科研通 7749593
什么是DOI,文献DOI怎么找? 3427281
关于科研通互助平台的介绍 2552345
邀请新用户注册赠送积分活动 2471619