A transformer-CNN parallel network for image guided depth completion

计算机科学 变压器 卷积神经网络 人工智能 条件随机场 模式识别(心理学) 特征(语言学) 人工神经网络 深度学习 k-最近邻算法 特征提取 图像(数学) 计算机视觉 算法 领域(数学) 网络模型 连接(主束)
作者
Tao Li,Xiucheng Dong,Jie Lin,Yonghong Peng
出处
期刊:Pattern Recognition [Elsevier BV]
卷期号:150: 110305-110305 被引量:10
标识
DOI:10.1016/j.patcog.2024.110305
摘要

Image guided depth completion aims to predict a dense depth map from sparse depth measurements and the corresponding single color image. However, most state-of-the-art methods only rely on convolutional neural network (CNN) or transformer. In this paper, we propose a transformer-CNN parallel network (TCPNet) to integrate the advantages of CNN in local detail recovery and transformer in long-range semantic modeling. Specifically, our CNN branch adopts dense connection to strengthen feature propagation. Since the common transformer computes self-attention based on all the tokens in the window, no matter if they are relevant or not, this will inevitably introduce interferences and noises. To improve the self-attention accuracy, we propose a correlation-based transformer to only allow nearest neighbor tokens to participate in the self-attention computation. We also design a multi-scale conditional random field (CRF) module to implement multi-scale high-dimensional filtering for depth refinement. The comprehensive experimental results on KITTI and NYUv2 demonstrate that our method outperforms the state-of-the-art methods.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
虚心的不二完成签到 ,获得积分10
刚刚
1秒前
闪闪含之完成签到,获得积分10
1秒前
Tici发布了新的文献求助10
1秒前
Akim的应助被敏感跳跳糖采纳,获得10
2秒前
竹笋爱炒肉完成签到,获得积分10
2秒前
漾漾完成签到 ,获得积分10
2秒前
仲棠完成签到,获得积分10
3秒前
黄州惠州儋州完成签到 ,获得积分10
3秒前
4秒前
Agnes发布了新的文献求助10
4秒前
今天完成签到,获得积分10
5秒前
可不可以发布了新的文献求助10
5秒前
molihuakai的应助被ShujunOvO采纳,获得10
6秒前
echooo完成签到,获得积分10
6秒前
小蘑菇的应助被哎呀糊啦采纳,获得10
6秒前
6秒前
睡衣发布了新的文献求助10
6秒前
愤怒的书文完成签到,获得积分10
7秒前
smh发布了新的文献求助10
7秒前
Junsir发布了新的文献求助10
8秒前
怀桑完成签到,获得积分10
8秒前
AAA工位主理人完成签到 ,获得积分10
8秒前
皮皮猪大王完成签到,获得积分10
9秒前
hhh296发布了新的文献求助10
9秒前
10秒前
run完成签到,获得积分10
10秒前
科研通AI65的应助被Yixinliu采纳,获得10
10秒前
11秒前
11秒前
cdercder的应助被鲁滨孙采纳,获得10
15秒前
标致鹤轩发布了新的文献求助10
15秒前
Chris学长完成签到,获得积分10
16秒前
17秒前
失眠的行天完成签到,获得积分10
17秒前
17秒前
耍酷的白梦完成签到,获得积分10
17秒前
谢焯州完成签到,获得积分10
17秒前
小y完成签到 ,获得积分10
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8185682
求助须知:如何正确求助?哪些是违规求助? 9574372
关于积分的说明 21835845
捐赠科研通 7783490
什么是DOI,文献DOI怎么找? 3434643
关于科研通互助平台的介绍 2558998
邀请新用户注册赠送积分活动 2481403