Densely Connected Transformer With Linear Self-Attention for Lightweight Image Super-Resolution

计算机科学 二次增长 变压器 图像分辨率 杠杆(统计) 计算复杂性理论 推论 计算机工程 算法 人工智能 模式识别(心理学) 电压 工程类 电气工程
作者
Kun Zeng,Hanjiang Lin,Zhiqiang Yan,Jinsheng Fang
出处
期刊:IEEE Transactions on Instrumentation and Measurement [Institute of Electrical and Electronics Engineers]
卷期号:72: 1-12 被引量:13
标识
DOI:10.1109/tim.2023.3304672
摘要

Image super-resolution (SR) is the process of restoring high-resolution (HR) images from low-resolution (LR) ones. Recent Transformer-based SR methods have achieved impressive results by utilizing the self-attention (SA) mechanism, which allows modeling long-range dependencies among input features in spatial dimensions. However, the computational complexity of SA increases quadratically with respect to the feature size, which makes Transformer-based methods inefficient. Additionally, despite the success of dense connections in CNN-based methods, they have not been fully explored in Transformer-based methods. In this paper, we propose a novel approach for lightweight SR, called Densely Connected Transformer with Linear Self-Attention (DCTLSA) network. Our method addresses the efficiency issue of SA by designing a new linear SA, which calculates the similarities in spatial dimension with linear complexity. Moreover, we leverage dense connections to integrate multiple levels of features and provide rich information for SR. Our experimental results demonstrate that DCTLSA outperforms state-of-the-art lightweight SR methods in terms of SR performance, model complexity, and inference speed. The code of the proposed method is available at https://github.com/zengkun301/DCTLSA.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
daomaihu发布了新的文献求助100
1秒前
今后的应助被马大海采纳,获得10
1秒前
worldlet发布了新的文献求助10
1秒前
田様的应助被科研通管家采纳,获得10
1秒前
科目三的应助被科研通管家采纳,获得10
2秒前
无花果的应助被科研通管家采纳,获得10
2秒前
fan的应助被科研通管家采纳,获得10
2秒前
充电宝的应助被科研通管家采纳,获得10
2秒前
null的应助被科研通管家采纳,获得10
2秒前
脑洞疼的应助被科研通管家采纳,获得10
2秒前
小蘑菇的应助被科研通管家采纳,获得10
2秒前
null的应助被科研通管家采纳,获得10
2秒前
TH发布了新的文献求助30
2秒前
Akim的应助被科研通管家采纳,获得10
3秒前
赘婿的应助被科研通管家采纳,获得10
3秒前
inspire的应助被科研通管家采纳,获得10
3秒前
3秒前
大个的应助被科研通管家采纳,获得10
3秒前
3秒前
3秒前
余香的应助被科研通管家采纳,获得10
3秒前
香蕉觅云的应助被科研通管家采纳,获得30
3秒前
muxiangrong的应助被科研通管家采纳,获得10
4秒前
李爱国的应助被科研通管家采纳,获得10
4秒前
Orange的应助被科研通管家采纳,获得10
4秒前
TED的应助被科研通管家采纳,获得10
4秒前
江河湖海完成签到,获得积分10
4秒前
初景的应助被科研通管家采纳,获得20
4秒前
领导范儿的应助被科研通管家采纳,获得10
4秒前
null的应助被科研通管家采纳,获得10
4秒前
打打的应助被科研通管家采纳,获得10
5秒前
5秒前
NexusExplorer的应助被科研通管家采纳,获得10
5秒前
5秒前
5秒前
狂野的小熊猫的应助被Zz采纳,获得10
5秒前
5秒前
田様的应助被andjdd采纳,获得10
6秒前
Jasper的应助被ZDC采纳,获得10
6秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8184336
求助须知:如何正确求助?哪些是违规求助? 9573358
关于积分的说明 21830993
捐赠科研通 7781367
什么是DOI,文献DOI怎么找? 3434307
关于科研通互助平台的介绍 2558401
邀请新用户注册赠送积分活动 2480846