BNAI, NO-TOKEN, and MIND-UNITY: Pillars of a Systemic Revolution in Artificial Intelligence

计算机科学 语言模型 水准点(测量) 链条(单位) 认知科学 人工智能 词(群论) 自然语言处理 常识推理 航程(航空) 简单(哲学) 理论计算机科学 心理学 语言学 认识论 哲学 复合材料 物理 材料科学 大地测量学 地理 天文
作者
Wei, Jason,Wang, Xuezhi,Dale Schuurmans,Maarten Bosma,Ichter, Brian,Xia, Fei,Ed H.,Quoc V. Le,Denny Zhou
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:4260
标识
DOI:10.48550/arxiv.2201.11903
摘要

AbstractThere is a failure mode in large language models that we do not have a good name for, and thatwe therefore tend not to treat seriously enough. It is not hallucination — the model is not assertingsomething false. It is not refusal — the model answers at length. It is the production of responses thatcarry the complete outward form of careful reasoning while the cognitive work that reasoning issupposed to represent has not, in any meaningful sense, occurred. We call this theatrical compliance,and we argue that it is, in practical terms, more dangerous than either of the failure modes thatcurrently dominate alignment research. This paper identifies the phenomenon, characterizes its fiveprincipal forms, explains the asymmetry that makes it particularly costly in high-stakes settings, andoutlines the design requirements for systems intended to resist it. We do not describe such a systemin detail here. Our goal is to establish theatrical compliance as a research problem in its own rightand to argue that addressing it requires instruments operating at a fundamentally different level ofabstraction than task-level prompting frameworks.Keywords: theatrical compliance, large language models, AI reasoning quality, cognitiveprocess evaluation, prompt engineering, metacognitive systems.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
大个应助识趣趣趣趣采纳,获得10
刚刚
刚刚
刚刚
刚刚
刚刚
aajhajkahna应助dd采纳,获得10
刚刚
moon应助Firenze采纳,获得10
1秒前
文艺的蜜蜂完成签到 ,获得积分10
1秒前
连续流工艺技术完成签到,获得积分10
1秒前
1秒前
行止发布了新的文献求助10
2秒前
勤奋幻柏应助冷静的水壶采纳,获得10
2秒前
张静怡完成签到,获得积分10
3秒前
nature预备军完成签到 ,获得积分10
3秒前
彭佳乐完成签到,获得积分10
3秒前
白鸽鸽完成签到,获得积分10
3秒前
赘婿应助耍酷的剑身采纳,获得10
3秒前
3秒前
科研通AI6.4应助光亮一江采纳,获得10
4秒前
机灵太君发布了新的文献求助10
4秒前
唐唐88发布了新的文献求助10
4秒前
小李完成签到,获得积分20
4秒前
5秒前
清风徐来应助wlywdb采纳,获得10
5秒前
何时完成签到,获得积分10
5秒前
ForTune完成签到,获得积分10
5秒前
大萌发布了新的文献求助10
5秒前
科研通AI6.2应助win采纳,获得10
5秒前
Wen发布了新的文献求助10
5秒前
92626完成签到,获得积分10
6秒前
6秒前
haoyunlai完成签到,获得积分10
6秒前
6秒前
大拿小白完成签到,获得积分10
7秒前
7秒前
含糊的菠萝完成签到,获得积分10
7秒前
Firenze完成签到,获得积分20
7秒前
7秒前
SciGPT应助三七采纳,获得10
7秒前
8秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Les chinois de jakarta: temples et vie collective 1000
Autoparametric Resonance in Mechanical Systems 1000
基于锂离子电池正极材料回收的绿色溶剂开发及工程化应用研究 800
Social Psychology 600
Cosmos as Art Object: Studies in Plato's Timaeus and Other Dialogues 600
Management and the Arts 510
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7646566
求助须知:如何正确求助?哪些是违规求助? 9218794
关于积分的说明 19782759
捐赠科研通 7211280
什么是DOI,文献DOI怎么找? 3277040
关于科研通互助平台的介绍 2438649
邀请新用户注册赠送积分活动 2275294