STANet: A Surgical Gesture Recognition Method Based on Spatiotemporal Fusion

计算机科学 手势 人工智能 水准点(测量) 卷积神经网络 保险丝(电气) 手势识别 深度学习 卷积(计算机科学) 计算机视觉 模式识别(心理学) 动作(物理) 动作识别 光流 融合 人工神经网络 循环神经网络 可视化 传感器融合 特征提取 时态数据库
作者
Boqiang Jia,Wenjie Wang,Xin Tian,Xiaohua Wang
出处
期刊:Annals of the New York Academy of Sciences [Wiley]
卷期号:1553 (1): 502-516 被引量:2
标识
DOI:10.1111/nyas.70053
摘要

In robotic surgery, surgical gesture recognition has great importance in surgical quality evaluation and intelligent recognition assistance. Currently, deep learning models, such as recurrent neural networks and temporal convolutional networks, are mainly used to model action sequences and capture the temporal dependencies between them. However, some of these methods ignore the fusion of spatial and temporal features, and hence cannot effectively capture long-term relationships and efficiently model action sequences. To overcome these limitations, we propose a spatiotemporal adaptive network (STANet) to fuse spatiotemporal features. Specifically, we designed a temporal module and a spatial module to extract respective features. Subsequently, these features were fused and further refined through temporal modeling using a temporal adaptive convolution strategy. This approach integrates both long-term and short-term characteristics of surgical gesture sequences. The organic combination of temporal and spatial modules was inserted into the backbone network to form the STANet, which efficiently modeled the action sequences. Our approach has been validated on the publicly available surgical gesture datasets JIGSAWS and RARP-45, achieving very good results. Compared to other reported benchmark models, our model demonstrates exceptional performance. It can be used in surgical robots, visual feedback systems, and computer-assisted surgery.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
JamesPei的应助被jiajia采纳,获得10
刚刚
研友_LJGGqn完成签到,获得积分10
刚刚
hahabaozi完成签到 ,获得积分10
刚刚
1秒前
顺心的土豆完成签到,获得积分10
1秒前
秀秀完成签到,获得积分10
2秒前
11111发布了新的文献求助10
2秒前
2秒前
研友_LJGGqn发布了新的文献求助10
2秒前
科研发布了新的文献求助10
3秒前
林睿完成签到,获得积分10
3秒前
所所的应助被零一采纳,获得10
3秒前
zhoushishan发布了新的文献求助10
3秒前
3秒前
MM完成签到,获得积分10
3秒前
3秒前
4秒前
陵亚未发布了新的文献求助10
4秒前
4秒前
5秒前
酷波er的应助被ice采纳,获得10
5秒前
晕晕发布了新的文献求助10
5秒前
5秒前
xu发布了新的文献求助10
5秒前
6秒前
6秒前
gg发布了新的文献求助10
6秒前
双喜宝贝发布了新的文献求助10
7秒前
留胡子的扬完成签到,获得积分10
7秒前
li发布了新的文献求助10
8秒前
彩色问旋发布了新的文献求助20
8秒前
bocheng发布了新的文献求助10
9秒前
白开水发布了新的文献求助10
10秒前
冉ran11完成签到,获得积分10
10秒前
11秒前
标致青雪完成签到,获得积分10
12秒前
Kunpeng发布了新的文献求助100
12秒前
12秒前
搜集达人的应助被俊杰采纳,获得10
12秒前
13秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8161211
求助须知:如何正确求助?哪些是违规求助? 9555956
关于积分的说明 21731400
捐赠科研通 7751154
什么是DOI,文献DOI怎么找? 3427515
关于科研通互助平台的介绍 2552568
邀请新用户注册赠送积分活动 2471950