ChangeCLIP: Remote sensing change detection with multimodal vision-language representation learning

计算机科学 变更检测 人工智能 语义学(计算机科学) 代表(政治) 深度学习 编码(集合论) 解码方法 编码(内存) 集合(抽象数据类型) 政治 政治学 法学 程序设计语言 电信
作者
Sijun Dong,Libo Wang,Bo Du,Xiaoliang Meng
出处
期刊:Isprs Journal of Photogrammetry and Remote Sensing [Elsevier BV]
卷期号:208: 53-69 被引量:184
标识
DOI:10.1016/j.isprsjprs.2024.01.004
摘要

Remote sensing change detection (RSCD), which aims to identify surface changes from bitemporal images, is significant for many applications, such as environmental protection and disaster monitoring. In the last decade, driven by the wave of artificial intelligence, many change detection methods based on deep learning emerged and have achieved essential breakthroughs. However, these methods pay more attention to visual representation learning while ignoring the potential of multimodal data. Recently, the foundation vision-language model, i.e. CLIP, has provided a new paradigm for multimodal AI, demonstrating impressive performance on downstream tasks. Following this trend, in this study, we introduce ChangeCLIP, a novel framework that leverages robust semantic information from image-text pairs, specifically tailored for Remote Sensing Change Detection (RSCD). Specifically, we reconstruct the original CLIP to extract bitemporal features and propose a novel differential features compensation module to capture the detailed semantic changes between them. Besides, we proposed a vision-language-driven decoder by combining the results of image-text encoding with the visual features of the decoding stage, thereby enhancing the image semantics. The proposed ChangeCLIP achieved state-of-the-art IoU on 5 well-known change detection datasets, LEVIR-CD (85.20%), LEVIR-CD+ (75.63%), WHUCD (90.15%), CDD (95.87%) and SYSU-CD (71.41%). The code and the pretrained models of ChangeCLIP will be publicly available on https://github.com/dyzy41/ChangeCLIP.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
可乐完成签到,获得积分0
刚刚
叶子发布了新的文献求助10
刚刚
嘻嘻嘻发布了新的文献求助10
1秒前
1秒前
2秒前
2秒前
LiiiY发布了新的文献求助10
2秒前
3秒前
Bk完成签到 ,获得积分10
4秒前
4秒前
顾矜的应助被讨厌鬼采纳,获得10
4秒前
4秒前
aaa发布了新的文献求助10
4秒前
王梦娜发布了新的文献求助10
5秒前
小青蛙叫呱呱完成签到,获得积分10
6秒前
檀兮尔完成签到 ,获得积分10
6秒前
英俊的铭的应助被顺利采纳,获得10
6秒前
6秒前
6秒前
lyabigale完成签到,获得积分10
6秒前
吞金兽发布了新的文献求助10
7秒前
7秒前
汉堡包的应助被霁月采纳,获得10
8秒前
8秒前
悦耳的听双完成签到,获得积分10
8秒前
秋风的应助被lethe采纳,获得10
8秒前
乐乐的应助被shuaiyuancheng采纳,获得10
9秒前
田様的应助被luo采纳,获得30
9秒前
玩家666发布了新的文献求助10
9秒前
9秒前
噗噗完成签到,获得积分10
10秒前
我是老大的应助被花花采纳,获得10
10秒前
10秒前
10秒前
11秒前
jimmyhui完成签到,获得积分10
11秒前
领导范儿的应助被衣美竹采纳,获得10
11秒前
FionaZhang发布了新的文献求助10
12秒前
tony发布了新的文献求助10
12秒前
medsci发布了新的文献求助20
13秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Handbook of Sport Coaching Research 1000
Orthognathic Surgery - 2 Volume Set 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8193438
求助须知:如何正确求助?哪些是违规求助? 9579666
关于积分的说明 21866723
捐赠科研通 7793099
什么是DOI,文献DOI怎么找? 3437297
关于科研通互助平台的介绍 2560719
邀请新用户注册赠送积分活动 2484156