Alignment Without Understanding: A Message- and Conversation-Centered Approach to Understanding AI Sycophancy

对话 计算机科学 个性化 钥匙(锁) 认知科学 认知 人工智能 基础(证据) 嵌入 概念模型 概念框架 人机交互 数据科学 心理学
作者
Du, Lihua,Lyu, Xing,Xie, Lezi,Feng, Bo
出处
期刊:Cornell University - arXiv
标识
DOI:10.48550/arxiv.2509.21665
摘要

AI sycophancy is increasingly recognized as a harmful alignment, but research remains fragmented and underdeveloped at the conceptual level. This article redefines AI sycophancy as the tendency of large language models (LLMs) and other interactive AI systems to excessively and/or uncritically validate, amplify, or align with a user's assertions-whether these concern factual information, cognitive evaluations, or affective states. Within this framework, we distinguish three types of sycophancy: informational, cognitive, and affective. We also introduce personalization at the message level and critical prompting at the conversation level as key dimensions for distinguishing and examining different manifestations of AI sycophancy. Finally, we propose the AI Sycophancy Processing Model (AISPM) to examine the antecedents, outcomes, and psychological mechanisms through which sycophantic AI responses shape user experiences. By embedding AI sycophancy in the broader landscape of communication theory and research, this article seeks to unify perspectives, clarify conceptual boundaries, and provide a foundation for systematic, theory-driven investigations.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
阳光发布了新的文献求助10
1秒前
研友_xnE4XL完成签到,获得积分10
1秒前
科研通AI6.2应助mochalv123采纳,获得10
1秒前
1秒前
sam完成签到,获得积分10
2秒前
4秒前
阔达千萍完成签到,获得积分10
4秒前
4秒前
苗条的小肥羊完成签到,获得积分10
5秒前
dadrw完成签到,获得积分10
5秒前
夜泊发布了新的文献求助30
5秒前
hhs发布了新的文献求助10
5秒前
6秒前
galioo3000完成签到,获得积分10
6秒前
yellow完成签到 ,获得积分10
6秒前
怡然白猫完成签到,获得积分10
6秒前
6秒前
7秒前
DN发布了新的文献求助10
7秒前
7秒前
一铄发布了新的文献求助10
8秒前
张美丽发布了新的文献求助20
8秒前
仁爱的怜南完成签到,获得积分10
9秒前
小帅发布了新的文献求助10
9秒前
10秒前
OvO_4577发布了新的文献求助20
10秒前
FashionBoy应助Bonny采纳,获得10
11秒前
11秒前
吴大亮发布了新的文献求助10
11秒前
方便面完成签到,获得积分10
11秒前
11秒前
salary发布了新的文献求助10
12秒前
12秒前
12秒前
华仔应助姚小姚88采纳,获得10
13秒前
cdercder应助lkkkkk采纳,获得10
13秒前
斯文败类应助111采纳,获得30
13秒前
13秒前
14秒前
高分求助中
Signals, Systems, and Signal Processing 610
Fundamentals of Pharmaceutical and Biologics Regulations: A Global Perspective, Second Edition 600
久松真一著作集〈第5巻〉禅と芸術 500
Fundamentals of Modern Mathematics: A Practical Review (Dover Books on Mathematics) 500
Cold War Transcended: Australia's China Policy, 1949-1990 470
Cybercrime: The Transformation of Crime in the Information Age, 2nd Edition 400
Moore's Clinically Oriented Anatomy 10th Edition 400
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6617977
求助须知:如何正确求助?哪些是违规求助? 8382232
关于积分的说明 17932713
捐赠科研通 5787646
什么是DOI,文献DOI怎么找? 2960022
邀请新用户注册赠送积分活动 1935276
关于科研通互助平台的介绍 1840081