亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

Masked Autoencoders Are Scalable Vision Learners

计算机科学 可扩展性 编码器 人工智能 遮罩(插图) 代表(政治) 图像(数学) 特征学习 像素 缩放比例 模式识别(心理学) 计算机视觉 机器学习 数学 艺术 数据库 政治 视觉艺术 法学 几何学 政治学 操作系统
作者
Kaiming He,Xinlei Chen,Saining Xie,Yanghao Li,Piotr Dollár,Ross Girshick
出处
期刊:Proceedings [Institute of Electrical and Electronics Engineers]
卷期号:: 15979-15988 被引量:15889
标识
DOI:10.1109/cvpr52688.2022.01553
摘要

This paper shows that masked autoencoders (MAE) are scalable self-supervised learners for computer vision. Our MAE approach is simple: we mask random patches of the input image and reconstruct the missing pixels. It is based on two core designs. First, we develop an asymmetric encoder-decoder architecture, with an encoder that operates only on the visible subset of patches (without mask tokens), along with a lightweight decoder that reconstructs the original image from the latent representation and mask tokens. Second, we find that masking a high proportion of the input image, e.g., 75%, yields a nontrivial and meaningful self-supervisory task. Coupling these two designs enables us to train large models efficiently and effectively: we accelerate training (by 3× or more) and improve accuracy. Our scalable approach allows for learning high-capacity models that generalize well: e.g., a vanilla ViT-Huge model achieves the best accuracy (87.8%) among methods that use only ImageNet-1K data. Transfer performance in downstream tasks outperforms supervised pretraining and shows promising scaling behavior.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
小华完成签到 ,获得积分10
1秒前
小二郎的应助被hyxiaoren采纳,获得20
4秒前
9秒前
隐形的冷亦完成签到,获得积分10
13秒前
盒子的应助被thisXiao6采纳,获得30
14秒前
labor发布了新的文献求助30
14秒前
15秒前
16秒前
852的应助被亚历山大采纳,获得10
16秒前
18秒前
22秒前
cxw陈祥薇完成签到 ,获得积分10
23秒前
刻苦灯泡发布了新的文献求助10
23秒前
25秒前
小鱼儿发布了新的文献求助10
26秒前
郑嘉辉完成签到 ,获得积分10
27秒前
稳重又琴发布了新的文献求助60
29秒前
49秒前
50秒前
亚历山大发布了新的文献求助10
52秒前
2589发布了新的文献求助20
53秒前
筝zheng完成签到 ,获得积分10
54秒前
FashionBoy的应助被小黑桃采纳,获得10
56秒前
包容的听兰完成签到,获得积分10
57秒前
亚历山大完成签到,获得积分10
59秒前
坦率黑米发布了新的文献求助10
59秒前
Akim的应助被坦率黑米采纳,获得10
1分钟前
suzhenyue的应助被坦率黑米采纳,获得10
1分钟前
顾矜的应助被坦率黑米采纳,获得30
1分钟前
1分钟前
1分钟前
涂豆泥发布了新的文献求助10
1分钟前
hhhhh发布了新的文献求助10
1分钟前
沉静曼梅完成签到,获得积分10
1分钟前
稳重又琴完成签到 ,获得积分10
1分钟前
1分钟前
latourr完成签到,获得积分10
1分钟前
AllWeKnow完成签到,获得积分10
1分钟前
hhhhh发布了新的文献求助10
1分钟前
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8172954
求助须知:如何正确求助?哪些是违规求助? 9565479
关于积分的说明 21780029
捐赠科研通 7764837
什么是DOI,文献DOI怎么找? 3431499
关于科研通互助平台的介绍 2555519
邀请新用户注册赠送积分活动 2476579