亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

DoRA: Weight-Decomposed Low-Rank Adaptation

秩(图论) 适应(眼睛) 数学 计算机科学 心理学 组合数学 神经科学
作者
Shih-Yang Liu,Chien-Yi Wang,Hongxu Yin,Pavlo Molchanov,Yu-Chiang Frank Wang,Kwang‐Ting Cheng,Min-Hung Chen
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:37
标识
DOI:10.48550/arxiv.2402.09353
摘要

Among the widely used parameter-efficient fine-tuning (PEFT) methods, LoRA and its variants have gained considerable popularity because of avoiding additional inference costs. However, there still often exists an accuracy gap between these methods and full fine-tuning (FT). In this work, we first introduce a novel weight decomposition analysis to investigate the inherent differences between FT and LoRA. Aiming to resemble the learning capacity of FT from the findings, we propose Weight-Decomposed Low-Rank Adaptation (DoRA). DoRA decomposes the pre-trained weight into two components, magnitude and direction, for fine-tuning, specifically employing LoRA for directional updates to efficiently minimize the number of trainable parameters. By employing \ours, we enhance both the learning capacity and training stability of LoRA while avoiding any additional inference overhead. \ours~consistently outperforms LoRA on fine-tuning LLaMA, LLaVA, and VL-BART on various downstream tasks, such as commonsense reasoning, visual instruction tuning, and image/video-text understanding. Code is available at https://github.com/NVlabs/DoRA.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
WQ完成签到,获得积分10
刚刚
Fin2046完成签到,获得积分10
2秒前
2秒前
所所的应助被科研通管家采纳,获得10
3秒前
科研通AI65的应助被科研通管家采纳,获得10
3秒前
FashionBoy的应助被科研通管家采纳,获得10
3秒前
3秒前
Akim的应助被科研通管家采纳,获得10
3秒前
李健的应助被科研通管家采纳,获得10
3秒前
脑洞疼的应助被科研通管家采纳,获得10
3秒前
Dr.Joseph完成签到,获得积分10
5秒前
zsm关注了科研通微信公众号
7秒前
magic完成签到,获得积分10
11秒前
diyyid完成签到,获得积分10
12秒前
12秒前
千仞发布了新的文献求助10
15秒前
BIBIYU完成签到,获得积分10
17秒前
润run发布了新的文献求助10
18秒前
段棋晔发布了新的文献求助10
19秒前
21秒前
挚友发布了新的文献求助10
21秒前
Hello的应助被机智的青易采纳,获得10
22秒前
精明尔柳完成签到,获得积分10
23秒前
szxa发布了新的文献求助10
24秒前
24秒前
26秒前
once发布了新的文献求助30
27秒前
27秒前
充电宝的应助被刻苦乐天采纳,获得10
27秒前
27秒前
28秒前
永日安宁完成签到,获得积分10
30秒前
傅jh发布了新的文献求助10
30秒前
kali发布了新的文献求助10
33秒前
丘比特的应助被moriaty采纳,获得20
34秒前
35秒前
研友_VZG7GZ的应助被dyler采纳,获得10
35秒前
36秒前
顾矜的应助被szxa采纳,获得10
37秒前
38秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8184932
求助须知:如何正确求助?哪些是违规求助? 9573870
关于积分的说明 21833572
捐赠科研通 7782362
什么是DOI,文献DOI怎么找? 3434429
关于科研通互助平台的介绍 2558650
邀请新用户注册赠送积分活动 2481161