亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

SAN: Side Adapter Network for Open-Vocabulary Semantic Segmentation

计算机科学 人工智能 适配器(计算) 分割 自然语言处理 词汇 图像分割 模式识别(心理学) 语音识别 语言学 操作系统 哲学
作者
Mengde Xu,Zheng Zhang,Fangyun Wei,Han Hu,Xiang Bai
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:45 (12): 15546-15561 被引量:27
标识
DOI:10.1109/tpami.2023.3311618
摘要

This article concentrates on open-vocabulary semantic segmentation, where a well optimized model is able to segment arbitrary categories that appear in an image. To achieve this goal, we present a novel framework termed Side Adapter Network, or SAN for short. Our design principles are three-fold: 1) Recent large-scale vision-language models (e.g. CLIP) show promising open-vocabulary image classification capability; it is training-economized to adapt a pre-trained CLIP model to open-vocabulary semantic segmentation. 2) Our SAN model should be both lightweight and effective in order to reduce the inference cost-to achieve this, we fuse the CLIP model's intermediate features to enhance the representation capability of the SAN model, and drive the CLIP model to focus on the informative areas of an image with the aid of the attention biases predicted by a side adapter network. 3) Our approach should empower mainstream segmentation architectures to have the capability of open-vocabulary segmentation-we present P-SAN and R-SAN, to support widely adopted pixel-wise segmentation and region-wise segmentation, respectively. Experimentally, our approach achieves state-of-the-art performance on 5 commonly used benchmarks while having much less trainable parameters and GFLOPs. For instance, our R-SAN outperforms previous best method OvSeg by +2.3 averaged mIoU across all benchmarks while using only 6% of trainable parameters and less than 1% of GFLOPs. In addition, we also conduct a comprehensive analysis of the open-vocabulary semantic segmentation datasets and verify the feasibility of transferring a well optimzied R-SAN model to video segmentation task.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
mlppp发布了新的文献求助10
2秒前
yc发布了新的文献求助10
7秒前
mlppp完成签到,获得积分10
8秒前
996外星人完成签到,获得积分10
35秒前
水北完成签到,获得积分10
46秒前
小二郎的应助被追寻的怜容采纳,获得200
54秒前
1分钟前
传统完成签到,获得积分10
1分钟前
1分钟前
jyy完成签到,获得积分10
1分钟前
哪块小饼干完成签到,获得积分10
1分钟前
dddj完成签到,获得积分10
1分钟前
1分钟前
1分钟前
1分钟前
Maestro_S的应助被科研通管家采纳,获得10
1分钟前
科研通AI6.3的应助被张阳采纳,获得10
2分钟前
科研通AI2S的应助被amiee采纳,获得10
2分钟前
yipmyonphu的应助被萧雨墨采纳,获得10
2分钟前
迷路曼荷完成签到,获得积分10
2分钟前
2分钟前
张阳发布了新的文献求助10
2分钟前
2分钟前
amiee发布了新的文献求助10
2分钟前
3分钟前
清爽友蕊发布了新的文献求助10
3分钟前
彭于晏的应助被yhr采纳,获得10
3分钟前
yipmyonphu的应助被张阳采纳,获得10
3分钟前
Maestro_S的应助被萧雨墨采纳,获得10
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
蔡文姬发布了新的文献求助10
3分钟前
呼啦呼啦完成签到 ,获得积分10
3分钟前
4分钟前
YWD完成签到,获得积分10
4分钟前
5分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8190136
求助须知:如何正确求助?哪些是违规求助? 9577239
关于积分的说明 21852212
捐赠科研通 7788483
什么是DOI,文献DOI怎么找? 3436259
关于科研通互助平台的介绍 2560043
邀请新用户注册赠送积分活动 2482880