A Semantic Transformer for Self-Supervised Deep Clustering of Large Hyperspectral Images

人工智能 计算机科学 高光谱成像 聚类分析 模式识别(心理学) 变压器 计算机视觉 遥感 特征提取 深度学习 图像分割 合成孔径雷达 图像处理
作者
Nan Tian Huang,Cheng Li,Qichao Liu,Jinpeng Li,Pengfei Liu,Zhizhong Zheng,Liang Xiao
出处
期刊:IEEE Transactions on Geoscience and Remote Sensing [Institute of Electrical and Electronics Engineers]
卷期号:64: 5512017-5512017 被引量:3
标识
DOI:10.1109/tgrs.2026.3686883
摘要

Local window-based Vision Transformers (ViTs) have recently attracted significant attention in hyperspectral image (HSI) analysis for their balance between global modeling and efficiency. However, window-based self-attention in unsupervised HSI clustering still suffers from two key limitations: (i) implicitly restricting semantic correlations to local window, overlooking fragmented and noncontiguous yet semantically homogeneous regions; and (ii) using fixed grid windows, causing boundary mixing and weakening spectral–spatial discriminative representations. To overcome these issues, we propose a Semantic Transformer for Self-Supervised Deep Clustering of large HSIs (STSDC), which couples a Multi-Scale CNN Block (MSCB) with a Semantic Transformer under a unified self-supervised optimization module. Specifically, the MSCB branch employs parallel receptive fields with adaptive channel recalibration to preserve fine-grained structures and suppress spectral redundancy. The Semantic Transformer introduces superpixel-guided attention mechanisms, including Semantic Contiguous Attention (SCA), which selects tokens from intra- and adjacent superpixels to enhance spatial continuity, and Semantic Global Attention (SGA), which aggregates long-range superpixel representations to associate spatially disjoint but semantically homogeneous regions. The self-supervised module aligns the embedding representations from the MSCB and the Semantic Transformer via a clustering objective. Extensive experiments on benchmark HSIs demonstrate that STSDC achieves superior clustering performance compared with state-of-the-art self-supervised methods for large HSIs.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
搜集达人的应助被科研通管家采纳,获得10
刚刚
上官若男的应助被科研通管家采纳,获得10
刚刚
刚刚
乐空思的应助被科研通管家采纳,获得30
刚刚
刚刚
研友_VZG7GZ的应助被lykkk采纳,获得10
刚刚
刚刚
jrzsy完成签到,获得积分10
1秒前
2秒前
Kyogoku发布了新的文献求助10
5秒前
李健的小迷弟的应助被chenyili采纳,获得10
5秒前
英姑的应助被roclie采纳,获得10
5秒前
彭鱼晏完成签到,获得积分10
5秒前
七月玖发布了新的文献求助10
6秒前
我是谁的应助被GamAooL采纳,获得30
6秒前
7秒前
Peng完成签到,获得积分10
7秒前
9秒前
JUN完成签到,获得积分10
9秒前
9秒前
十一完成签到,获得积分10
10秒前
思源的应助被yuanzhoulv采纳,获得10
10秒前
LJT完成签到 ,获得积分10
10秒前
11秒前
11秒前
11秒前
12秒前
Eli发布了新的文献求助10
12秒前
科研通AI6.3的应助被ayzzdbr采纳,获得10
13秒前
DONG的应助被LU采纳,获得10
13秒前
13秒前
14秒前
KING完成签到,获得积分10
15秒前
ding的应助被AA采纳,获得10
15秒前
123发布了新的文献求助10
16秒前
Kyogoku完成签到,获得积分10
16秒前
吃猫的鱼发布了新的文献求助10
16秒前
花开富贵发布了新的文献求助10
17秒前
zkh发布了新的文献求助10
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
Resource Recovery Handbook 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8175267
求助须知:如何正确求助?哪些是违规求助? 9567035
关于积分的说明 21789830
捐赠科研通 7769741
什么是DOI,文献DOI怎么找? 3431840
关于科研通互助平台的介绍 2556149
邀请新用户注册赠送积分活动 2477241