Step-Wise Distribution-Aligned Style Prompt Tuning for Source-Free Cross-Domain Few-Shot Learning

计算机科学 分类器(UML) 人工智能 机器学习 领域(数学分析) 透视图(图形) 训练集 面子(社会学概念) 任务分析 任务(项目管理) 结构化预测 过程(计算) 标记数据 领域知识 多任务学习 绩效改进 数据建模 数据挖掘 迭代和增量开发 面部识别系统 特征提取
作者
Huali Xu,Li Liu,Tianpeng Liu,Shuaifeng Zhi,Shuzhou Sun,Ming‐Ming Cheng
出处
期刊:IEEE Transactions on Pattern Analysis and Machine Intelligence [IEEE Computer Society]
卷期号:48 (2): 1098-1114 被引量:14
标识
DOI:10.1109/tpami.2025.3610039
摘要

Existing cross-domain few-shot learning (CDFSL) methods, which develop training strategies in the source domain to enhance model transferability, face challenges when applied to large-scale pre-trained models (LMs), as their source domains and training strategies are not accessible. Besides, fine-tuning LMs specifically for CDFSL requires substantial computational resources, which limits their practicality. Therefore, this paper investigates the source-free CDFSL (SF-CDFSL) problem to solve the few-shot learning (FSL) task in target domain using only a pre-trained model and a few target samples, without requiring source data or training strategies. However, the inaccessibility of source data prevents explicitly reducing the domain gaps between the source and target. To tackle this challenge, this paper proposes a novel approach, Step-wise Distribution-aligned Style Prompt Tuning (StepSPT), to implicitly narrow the domain gaps from the perspective of prediction distribution optimization. StepSPT initially proposes a style prompt that adjusts the target samples to mirror the expected distribution. Furthermore, StepSPT tunes the style prompt and classifier by exploring a dual-phase optimization process (external and internal processes). In the external process, a step-wise distribution alignment strategy is introduced to tune the proposed style prompt by factorizing the prediction distribution optimization problem into the multi-step distribution alignment problem. In the internal process, the classifier is updated via standard cross-entropy loss. Evaluation on 5 datasets illustrates the superiority of StepSPT over existing prompt tuning-based methods and state-of-the-art methods (SOTAs). Furthermore, ablation studies and performance analyzes highlight the efficacy of StepSPT.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
水母大王完成签到,获得积分10
刚刚
1秒前
汉堡包的应助被dabai采纳,获得10
2秒前
共享精神的应助被thq采纳,获得10
2秒前
YANG发布了新的文献求助10
3秒前
4秒前
4秒前
小橘子发布了新的文献求助10
5秒前
洛枝发布了新的文献求助10
6秒前
飘逸的星星完成签到,获得积分10
6秒前
Hello的应助被无辜的笑蓝采纳,获得10
7秒前
8秒前
8秒前
吃葡萄不吐葡萄皮的应助被FG采纳,获得10
9秒前
9秒前
zcyuqing发布了新的文献求助10
10秒前
lili完成签到 ,获得积分10
11秒前
桐桐的应助被YANG采纳,获得10
13秒前
13秒前
卡皮巴拉完成签到,获得积分10
13秒前
14秒前
thq发布了新的文献求助10
14秒前
刘zy完成签到,获得积分10
15秒前
zb完成签到,获得积分10
16秒前
Ava的应助被甜甜十三采纳,获得10
16秒前
17秒前
null的应助被馥郁采纳,获得10
18秒前
爆米花的应助被洛枝采纳,获得10
18秒前
绿叶发布了新的文献求助10
18秒前
yzy发布了新的文献求助10
19秒前
NIIER完成签到,获得积分10
19秒前
MQL完成签到,获得积分10
19秒前
19秒前
20秒前
20秒前
丘比特的应助被弘毅采纳,获得10
20秒前
熄灯完成签到,获得积分10
21秒前
22秒前
23秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology)求助 1000
Encyclopedia of Modern Artificial Intelligence 1000
John McDowells Bildungstheorie 800
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Synthesis, Application and Future Perspectives of Smart Nano-materials - Part 1 400
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8153573
求助须知:如何正确求助?哪些是违规求助? 9550279
关于积分的说明 21697424
捐赠科研通 7742161
什么是DOI,文献DOI怎么找? 3425546
关于科研通互助平台的介绍 2550636
邀请新用户注册赠送积分活动 2469181