清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

Large Language Models Show Amplified Cognitive Biases in Moral Decision-Making

认知 心理学 认知心理学 认知科学 计算机科学 语言学 哲学 神经科学
作者
Vanessa Cheung,Maximilian Maier,Falk Lieder
标识
DOI:10.31234/osf.io/aj46b_v3
摘要

As large language models (LLMs) become more widely used, people increasingly rely on them to make or advise on moral decisions. Some researchers even propose using LLMs as participants in psychology experiments. It is, therefore, important to understand how well LLMs make moral decisions and how they compare to humans. We investigated these questions by asking a range of LLMs to emulate or advise on people's decisions in realistic moral dilemmas. In Study 1, we compared LLM responses to those of a representative U.S. sample (N = 285) for 22 dilemmas, including both collective action problems that pitted self-interest against the greater good, and moral dilemmas that pitted utilitarian cost-benefit reasoning against deontological rules. In collective action problems, LLMs were more altruistic than participants. In moral dilemmas, LLMs exhibited stronger omission bias than participants: they usually endorsed inaction over action. In Study 2 (N = 474, preregistered), we replicated this omission bias and documented an additional bias: unlike humans, most LLMs were biased toward answering ``no'' in moral dilemmas, thus flipping their decision/advice depending on how the question is worded. In Study 3 (N = 491, preregistered), we replicated these biases in LLMs using everyday moral dilemmas adapted from forum posts on Reddit. In Study 4, we investigated the sources of these biases by comparing models with and without fine-tuning, showing that they likely arise from fine-tuning models for chatbot applications. Our findings suggest that uncritical reliance on LLMs' moral decisions and advice could amplify human biases and introduce novel potentially problematic biases.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
名字有点甜诶完成签到 ,获得积分10
3秒前
3秒前
年轻新晴完成签到,获得积分10
4秒前
4秒前
9秒前
Jannatul发布了新的文献求助10
10秒前
Research完成签到 ,获得积分10
13秒前
14秒前
龙弟弟完成签到 ,获得积分10
19秒前
24秒前
体贴的小霜完成签到,获得积分10
24秒前
魔幻雅柔完成签到,获得积分10
30秒前
Zephyr完成签到 ,获得积分10
31秒前
33秒前
清新的方盒完成签到 ,获得积分10
35秒前
38秒前
Jannatul完成签到,获得积分10
40秒前
43秒前
pericles发布了新的文献求助10
44秒前
53秒前
1分钟前
1分钟前
ubless607的应助被科研通管家采纳,获得10
1分钟前
怕黑的驳完成签到,获得积分10
1分钟前
老猫322完成签到 ,获得积分10
1分钟前
1分钟前
英俊的傲珊完成签到,获得积分10
1分钟前
1分钟前
小橙子完成签到 ,获得积分10
1分钟前
qaplay完成签到 ,获得积分0
1分钟前
1分钟前
白嫖论文完成签到 ,获得积分10
1分钟前
1分钟前
CHME完成签到 ,获得积分10
1分钟前
Z小姐完成签到 ,获得积分10
1分钟前
jiayouliyi完成签到 ,获得积分10
1分钟前
1分钟前
玛卡巴卡爱吃饭完成签到 ,获得积分0
2分钟前
2分钟前
炙热迎天完成签到,获得积分10
2分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8185496
求助须知:如何正确求助?哪些是违规求助? 9574168
关于积分的说明 21834498
捐赠科研通 7783092
什么是DOI,文献DOI怎么找? 3434577
关于科研通互助平台的介绍 2558949
邀请新用户注册赠送积分活动 2481346