Robustness of large language models in moral judgements

判断 道德 心理学 社会心理学 认知心理学 政治学 法学
作者
Soyoung Oh,Vera Demberg
出处
期刊:Royal Society Open Science [Royal Society]
卷期号:12 (4): 241229-241229 被引量:4
标识
DOI:10.1098/rsos.241229
摘要

With the advent of large language models (LLMs), there has been a growing interest in analysing the preferences encoded in LLMs in the context of morality. Recent work has tested LLMs on various moral judgement tasks and drawn conclusions regarding the alignment between LLMs and humans. The present contribution critically assesses the validity of the method and results employed in previous work for eliciting moral judgements from LLMs. We find that previous results are confounded by biases in the presentation of the options in moral judgement tasks and that LLM responses are highly sensitive to prompt formulation variants as simple as changing ‘Case 1’ and ‘Case 2’ to ‘(A)’ and ‘(B)’. Our results hence indicate that previous conclusions on moral judgements of LLMs cannot be upheld. We make recommendations for more sound methodological setups for future studies.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
大模型的应助被Willing采纳,获得10
刚刚
常青完成签到,获得积分10
刚刚
泊凉少年发布了新的文献求助10
刚刚
mzc完成签到,获得积分20
刚刚
KEI发布了新的文献求助10
刚刚
刚刚
wsc发布了新的文献求助10
1秒前
1秒前
1秒前
1秒前
隐形平灵完成签到,获得积分10
1秒前
硝基完成签到,获得积分10
1秒前
Carol发布了新的文献求助10
2秒前
wulalal发布了新的文献求助10
2秒前
2秒前
痴情志浩发布了新的文献求助10
2秒前
2秒前
斯文败类的应助被莫语采纳,获得10
3秒前
完美世界的应助被Xiaoyong采纳,获得10
3秒前
衷燊发布了新的文献求助10
3秒前
所所的应助被我真的晕采纳,获得10
3秒前
Orange的应助被岁月旧曾谙采纳,获得10
3秒前
wn完成签到,获得积分10
4秒前
哈哈哈完成签到,获得积分10
4秒前
yu发布了新的文献求助10
4秒前
福崽完成签到,获得积分10
4秒前
岳圆发布了新的文献求助30
5秒前
Owen的应助被强健的冰棍采纳,获得10
5秒前
程梦璐发布了新的文献求助10
6秒前
Lucas的应助被阿果采纳,获得10
6秒前
碎觉觉完成签到 ,获得积分20
6秒前
mzc发布了新的文献求助10
6秒前
xz发布了新的文献求助10
6秒前
galvin完成签到,获得积分10
6秒前
风趣的惠发布了新的文献求助10
6秒前
典雅觅海发布了新的文献求助10
6秒前
生动万言完成签到,获得积分20
6秒前
天天完成签到,获得积分10
6秒前
青柳安发布了新的文献求助10
7秒前
7秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8160268
求助须知:如何正确求助?哪些是违规求助? 9555328
关于积分的说明 21727231
捐赠科研通 7750062
什么是DOI,文献DOI怎么找? 3427353
关于科研通互助平台的介绍 2552391
邀请新用户注册赠送积分活动 2471707