清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

"Pull or Not to Pull?'': Investigating Moral Biases in Leading Large Language Models Across Ethical Dilemmas

作者
Ding, Junchen,Penghao Jiang,Zihao Xu,Ding, Ziqi,Zhu, Yichen,Jiaojiao Jiang,Yuekang Li
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:5
标识
DOI:10.48550/arxiv.2508.07284
摘要

As large language models (LLMs) increasingly mediate ethically sensitive decisions, understanding their moral reasoning processes becomes imperative. This study presents a comprehensive empirical evaluation of 14 leading LLMs, both reasoning enabled and general purpose, across 27 diverse trolley problem scenarios, framed by ten moral philosophies, including utilitarianism, deontology, and altruism. Using a factorial prompting protocol, we elicited 3,780 binary decisions and natural language justifications, enabling analysis along axes of decisional assertiveness, explanation answer consistency, public moral alignment, and sensitivity to ethically irrelevant cues. Our findings reveal significant variability across ethical frames and model types: reasoning enhanced models demonstrate greater decisiveness and structured justifications, yet do not always align better with human consensus. Notably, "sweet zones" emerge in altruistic, fairness, and virtue ethics framings, where models achieve a balance of high intervention rates, low explanation conflict, and minimal divergence from aggregated human judgments. However, models diverge under frames emphasizing kinship, legality, or self interest, often producing ethically controversial outcomes. These patterns suggest that moral prompting is not only a behavioral modifier but also a diagnostic tool for uncovering latent alignment philosophies across providers. We advocate for moral reasoning to become a primary axis in LLM alignment, calling for standardized benchmarks that evaluate not just what LLMs decide, but how and why.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
7秒前
深情安青的应助被喵喵采纳,获得10
8秒前
9秒前
无花果的应助被Freeasy采纳,获得10
11秒前
David发布了新的文献求助10
13秒前
dou完成签到 ,获得积分10
16秒前
18秒前
Freeasy发布了新的文献求助10
22秒前
冷艳凡灵完成签到,获得积分10
24秒前
David完成签到,获得积分10
26秒前
33秒前
大胆半双完成签到,获得积分10
39秒前
安详冰夏完成签到,获得积分10
53秒前
传奇3的应助被yiyixt采纳,获得10
54秒前
57秒前
喵喵发布了新的文献求助10
1分钟前
风趣馒头完成签到,获得积分10
1分钟前
喵喵完成签到 ,获得积分10
1分钟前
月儿完成签到 ,获得积分0
1分钟前
酷炫安雁完成签到,获得积分10
1分钟前
1分钟前
zy997987876完成签到,获得积分10
1分钟前
舒心的以莲完成签到,获得积分10
1分钟前
1分钟前
369ninja发布了新的文献求助30
2分钟前
合适的太英完成签到,获得积分10
2分钟前
muyicccccc完成签到 ,获得积分10
2分钟前
潇洒小海豚完成签到,获得积分10
2分钟前
2分钟前
谦让大米完成签到,获得积分10
3分钟前
3分钟前
无辜摇伽完成签到,获得积分10
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
3分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8179961
求助须知:如何正确求助?哪些是违规求助? 9570183
关于积分的说明 21808480
捐赠科研通 7775832
什么是DOI,文献DOI怎么找? 3433251
关于科研通互助平台的介绍 2557373
邀请新用户注册赠送积分活动 2478958