PR-CLIP: Cross-Modal Positional Reconstruction for Remote Sensing Image–Text Retrieval

计算机科学 情态动词 相似性(几何) 人工智能 一致性(知识库) 任务(项目管理) 推论 计算机视觉 模态(人机交互) 情报检索 模式识别(心理学) 图像(数学) 管理 经济 化学 高分子化学
作者
Jihong Guan,Yulou Shu,Wengen Li,Zihan Song,Yichao Zhang
出处
期刊:Remote Sensing [Multidisciplinary Digital Publishing Institute]
卷期号:17 (13): 2117-2117 被引量:2
标识
DOI:10.3390/rs17132117
摘要

With the development of satellite technology, remote sensing images have become increasingly accessible, making multi-modal remote sensing retrieval increasingly important. However, most existing methods rely on global visual and textual features to compute similarity, ignoring the positional correspondence between image regions and textual descriptions. To address this issue, we propose a novel cross-modal retrieval model named PR-CLIP, which leverages a cross-modal positional information reconstruction task to learn position-aware correlations between modalities. Specifically, PR-CLIP first uses a cross-modal positional information extraction module to extract the complementary features between images and texts. Then, the unimodal positional information filtering module filters out the complementary information from the unimodal features to generate embeddings for reconstruction. Finally, the cross-modal positional information reconstruction module reconstructs the unimodal embeddings of the images and texts based on the complete embeddings of the opposite modality, guided by a cross-modal positional consistency loss to ensure reconstruction quality. During the inference stage of retrieval, PR-CLIP directly calculates the similarity between the unimodal features without executing the modules of the reconstruction task. By combining the advantages of dual-stream and single-stream models, PR-CLIP achieves a good balance between performance and efficiency. Extensive experiments on multiple public datasets demonstrated the effectiveness of PR-CLIP.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
浮浮世世应助yychibupang采纳,获得30
刚刚
1秒前
华仔应助超能力采纳,获得10
2秒前
禾火发布了新的文献求助10
2秒前
Ava应助muyiqiao采纳,获得10
2秒前
2秒前
Owen应助牧林听风采纳,获得10
3秒前
Aubrey完成签到,获得积分10
3秒前
小马甲应助烤肉采纳,获得10
4秒前
5秒前
5秒前
RBT发布了新的文献求助10
5秒前
5秒前
Yanz发布了新的文献求助30
6秒前
晓晓马儿完成签到,获得积分10
7秒前
Hello应助简单的大哥采纳,获得10
8秒前
WRT发布了新的文献求助10
8秒前
隐形曼青应助热闹的冬天采纳,获得10
8秒前
9秒前
贼贼完成签到,获得积分10
9秒前
动听嫣发布了新的文献求助10
10秒前
zyq111111完成签到,获得积分10
11秒前
what发布了新的文献求助10
12秒前
13秒前
大模型应助依依采纳,获得10
13秒前
思源应助Tuotuo采纳,获得10
15秒前
无极微光应助菠萝汁采纳,获得20
15秒前
迷人镜子完成签到,获得积分10
15秒前
15秒前
16秒前
16秒前
拼搏傲丝完成签到,获得积分10
16秒前
热闹的冬天完成签到,获得积分10
16秒前
刘隅发布了新的文献求助10
18秒前
李爱国应助WUXIN采纳,获得10
18秒前
19秒前
19秒前
19秒前
11111发布了新的文献求助40
21秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
The Organometallic Chemistry of the Transition Metals 800
Chemistry and Physics of Carbon Volume 18 800
The Organometallic Chemistry of the Transition Metals 800
The formation of Australian attitudes towards China, 1918-1941 640
Signals, Systems, and Signal Processing 610
全相对论原子结构与含时波包动力学的理论研究--清华大学 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6442236
求助须知:如何正确求助?哪些是违规求助? 8256079
关于积分的说明 17580337
捐赠科研通 5500824
什么是DOI,文献DOI怎么找? 2900436
邀请新用户注册赠送积分活动 1877404
关于科研通互助平台的介绍 1717224