AI models collapse when trained on recursively generated data

生成语法 生成模型 直觉 计算机科学 多样性(控制论) 互联网 人工智能 数据科学 心理学 认知科学 万维网
作者
Ilia Shumailov,Zakhar Shumaylov,Yiren Zhao,Nicolas Papernot,Ross Anderson,Yarin Gal
出处
期刊:Nature [Nature Portfolio]
卷期号:631 (8022): 755-759 被引量:2549
标识
DOI:10.1038/s41586-024-07566-y
摘要

Abstract Stable diffusion revolutionized image creation from descriptive text. GPT-2 (ref. 1 ), GPT-3(.5) (ref. 2 ) and GPT-4 (ref. 3 ) demonstrated high performance across a variety of language tasks. ChatGPT introduced such language models to the public. It is now clear that generative artificial intelligence (AI) such as large language models (LLMs) is here to stay and will substantially change the ecosystem of online text and images. Here we consider what may happen to GPT-{ n } once LLMs contribute much of the text found online. We find that indiscriminate use of model-generated content in training causes irreversible defects in the resulting models, in which tails of the original content distribution disappear. We refer to this effect as ‘model collapse’ and show that it can occur in LLMs as well as in variational autoencoders (VAEs) and Gaussian mixture models (GMMs). We build theoretical intuition behind the phenomenon and portray its ubiquity among all learned generative models. We demonstrate that it must be taken seriously if we are to sustain the benefits of training from large-scale data scraped from the web. Indeed, the value of data collected about genuine human interactions with systems will be increasingly valuable in the presence of LLM-generated content in data crawled from the Internet.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
yian007发布了新的文献求助80
刚刚
刚刚
1秒前
高登登完成签到,获得积分10
1秒前
风吹麦浪的应助被Clarissa采纳,获得10
1秒前
2秒前
拉长的念珍完成签到,获得积分10
3秒前
3秒前
思源的应助被阿金采纳,获得10
3秒前
4秒前
Cxinny完成签到,获得积分10
4秒前
懿生完成签到,获得积分10
4秒前
Gser完成签到,获得积分10
4秒前
5秒前
黑米粥发布了新的文献求助200
5秒前
过几天完成签到 ,获得积分10
5秒前
天天快乐的应助被当晚星散落采纳,获得10
5秒前
梁文发布了新的文献求助10
6秒前
852的应助被乐观的颦采纳,获得10
6秒前
6秒前
付有完成签到,获得积分10
6秒前
天天快乐的应助被xiao采纳,获得10
7秒前
Daisy完成签到 ,获得积分10
7秒前
8秒前
ket的应助被咕咕鸟采纳,获得10
8秒前
Pengzhuhuai完成签到,获得积分10
8秒前
10秒前
星辰大海的应助被圆圆采纳,获得10
11秒前
fantasy的应助被淡然宝莹采纳,获得10
12秒前
我是老大的应助被可口可乐采纳,获得10
12秒前
12秒前
完美世界的应助被淡然宝莹采纳,获得10
12秒前
阿鑫发布了新的文献求助10
12秒前
13秒前
13秒前
整齐黑猫完成签到,获得积分10
13秒前
紫垣完成签到,获得积分10
13秒前
英姑的应助被LDY采纳,获得10
14秒前
丘比特的应助被诚心的访蕊采纳,获得10
14秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
Grapes 1000
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8178449
求助须知:如何正确求助?哪些是违规求助? 9569267
关于积分的说明 21803160
捐赠科研通 7773332
什么是DOI,文献DOI怎么找? 3432799
关于科研通互助平台的介绍 2556833
邀请新用户注册赠送积分活动 2478436