Distillation-SAM: Knowledge Distillation-Based Auto-Prompt Embedding Learning for Surgical Image Segmentation

人工智能 计算机科学 嵌入 图像分割 计算机视觉 分割 图像(数学) 模式识别(心理学) 尺度空间分割 图像处理 蒸馏 医学影像学 特征提取 图像纹理 基于知识的系统 基于分割的对象分类 上下文图像分类 训练集
作者
Jiyang Tang,Hu Han,Shiguang Shan,Xilin Chen
出处
期刊:IEEE Transactions on Medical Imaging [Institute of Electrical and Electronics Engineers]
卷期号:45 (6): 3327-3338 被引量:4
标识
DOI:10.1109/tmi.2026.3674509
摘要

Surgical image segmentation is vital for various stages of surgical procedures, from preoperative planning to real-time navigation and postoperative assessment. Despite advances in deep learning, current surgical image segmentation methods remain limited. They primarily target instrument segmentation and show poor generalizability across different surgical settings. While the Segment Anything Model (SAM) shows robust generalization capabilities in the segmentation of natural images, adapting SAM to surgical and medical images faces challenges because of its reliance on high-quality user-provided prompts and inherent lack of design for multi-class semantic segmentation. To address these limitations, we propose Distillation-SAM, an effective method that adapts SAM for accurate surgical image segmentation without user-provided prompts while freezing its encoder and decoder. Distillation-SAM introduces a trainable adapter branch that learns both sparse auto-prompt embeddings and enriched image features with dense auto-prompt embeddings, enabling the segmentation of surgical objects such as vessels, instruments, and tissues. We propose a direct knowledge distillation constraint for these auto-prompt embedding learnings by using embeddings derived from ground-truth masks as guidance. To enable multi-class semantic segmentation using SAM, we revise the mask score regression branch in SAM's decoder by incorporating a trainable Multilayer Perceptron to predict mask categories while keeping other parameters frozen. Our experiments in multiple surgical datasets, including IVIS, EndoVis2017, and Cholecseg8k, demonstrate that distillation-SAM outperforms existing methods in vessel, tissue, and instrument segmentation.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
SIT发布了新的文献求助10
刚刚
1秒前
zyy完成签到 ,获得积分10
2秒前
3秒前
LL完成签到,获得积分10
3秒前
3秒前
4秒前
4秒前
我还没吃饱完成签到 ,获得积分10
4秒前
桐桐的应助被shuo采纳,获得10
4秒前
Jasper的应助被啾啾啾采纳,获得10
4秒前
wt发布了新的文献求助10
5秒前
柠柠发布了新的文献求助10
5秒前
5秒前
榕小蜂完成签到 ,获得积分10
5秒前
5秒前
冷傲的小小完成签到,获得积分10
5秒前
烟雨平生发布了新的文献求助10
5秒前
Ziyi_Xu完成签到,获得积分10
6秒前
6秒前
7秒前
豆豆发布了新的文献求助10
7秒前
风清扬的应助被紫薇的星辰采纳,获得10
7秒前
FashionBoy的应助被冰晨采纳,获得10
7秒前
gujianhua完成签到,获得积分10
7秒前
yue完成签到,获得积分10
7秒前
余香的应助被苗子采纳,获得10
7秒前
小池同学完成签到,获得积分10
7秒前
8秒前
9秒前
优秀钢铁侠完成签到,获得积分10
9秒前
9秒前
9秒前
Mishaoc完成签到,获得积分10
9秒前
Liah完成签到,获得积分10
9秒前
10秒前
10秒前
yyyyy完成签到 ,获得积分10
10秒前
满意的苑博完成签到,获得积分20
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8181014
求助须知:如何正确求助?哪些是违规求助? 9571039
关于积分的说明 21816042
捐赠科研通 7777369
什么是DOI,文献DOI怎么找? 3433378
关于科研通互助平台的介绍 2557621
邀请新用户注册赠送积分活动 2479385