Selective Invariance Violations in Large Language Model Moral Judgment: A Geometric Framework for Behavioral Manipulation Detection

计算机科学 危害 显著性(神经科学) 模棱两可 稳健性(进化) 认知心理学 人工智能 锚固 启发式 心理学 可观测性 隐蔽的 利用 认知 信任 计算模型 计算机安全 模型检查 感知 语言模型 掉期(金融) 社会心理学 毒物控制 情境伦理学 惊喜 机器学习 威胁模型 决策规范模型 甲骨文公司 独特性 建模语言 决策模型 形势意识
作者
Andrew H. Bond
出处
期刊: 卷期号:: 219-226
标识
DOI:10.1109/bigdataservice70481.2026.00045
摘要

Large language models are increasingly deployed in safety-critical decision services---content moderation, clinical decision support, legal analysis---yet methods for characterizing their vulnerability profiles across multiple attack surfaces remain underdeveloped. We introduce a geometric evaluation framework that maps moral judgment to a 7-dimensional harm space, applies five qualitatively distinct perturbation types across five cognitive domains, and produces per-model vulnerability profiles that reveal manipulations each model resists and it does not. Testing 5~models spanning 2~architecture families under a realistic \50/day compute budget, we find that vulnerabilities are : linguistic framing, emotional anchoring, and irrelevant sensory detail reliably displace judgments, while gender swap and evaluation order do not---identifying salience manipulation as the specific attack surface. The framework further reveals that robustness profiles are partially dissociable across models: a model with zero sycophancy has the worst emotional anchoring recovery; a model with the best anchoring recovery has the worst working memory. No single robustness score captures these structures. An inter-model agreement study over an independent open-model panel confirms these harm dimensions are reliably measurable (ICC(2,k)\,=\,0.97), and a worked content-moderation exploit shows that salience manipulation flips not only a scalar harm threshold but the typed verdict of a downstream rule-based decision kernel. The evaluation pipeline---with adaptive concurrency, budget-aware execution, and three-tier data---scales to new models and perturbation types within fixed compute constraints, providing a practical tool for multi-dimensional LLM security assessment. Target venue: IEEE BigDataService 2026 (accepted). Author preprint deposited for archival and citation. Draft — pending author review.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
乐乐的应助被Elsevier大王采纳,获得10
刚刚
科研通AI6.2的应助被Tracey16采纳,获得10
刚刚
自然笑天完成签到,获得积分10
刚刚
田様的应助被Elsevier大王采纳,获得50
刚刚
Owen的应助被Elsevier大王采纳,获得20
刚刚
1秒前
1秒前
星辰大海的应助被Elsevier大王采纳,获得10
1秒前
1秒前
My_magnum_opus的应助被Elsevier大王采纳,获得30
1秒前
1秒前
CipherSage的应助被Elsevier大王采纳,获得10
1秒前
爆米花的应助被Elsevier大王采纳,获得10
1秒前
852的应助被Elsevier大王采纳,获得30
1秒前
科研通AI6.2的应助被Elsevier大王采纳,获得10
1秒前
小二郎的应助被机灵的不尤采纳,获得10
1秒前
2秒前
4秒前
4秒前
HHH完成签到,获得积分10
5秒前
小秦发布了新的文献求助20
5秒前
5秒前
liuliu完成签到,获得积分10
6秒前
星河发布了新的文献求助10
6秒前
6秒前
烟花的应助被Yuxing采纳,获得10
6秒前
明天见完成签到,获得积分10
6秒前
大狒狒发布了新的文献求助10
6秒前
哈哈哈哈哈哈哈完成签到 ,获得积分10
6秒前
xin66yang发布了新的文献求助10
8秒前
方九九发布了新的文献求助10
8秒前
jsy2253完成签到 ,获得积分10
8秒前
8秒前
8秒前
9秒前
金明完成签到 ,获得积分20
9秒前
123完成签到,获得积分10
10秒前
毛毛发布了新的文献求助10
11秒前
打打的应助被周周采纳,获得10
11秒前
12秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Les Mantodea De Guyane 2000
内視鏡下経鼻経蝶形骨洞手術術後SIADHに対する予防的水制限の安全性と有効性の検討 1000
Problems and Solutions for Integer and Combinatorial Optimization: Building Skills in Discrete Optimization 600
Organizational Behavior 510
桑白皮エキスの実験的, 臨床的育毛効果について 500
Nonlinear vehicle active suspension system control method based on the extended high gain observer 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8000848
求助须知:如何正确求助?哪些是违规求助? 9453856
关于积分的说明 21146398
捐赠科研通 7573729
什么是DOI,文献DOI怎么找? 3381231
关于科研通互助平台的介绍 2513941
邀请新用户注册赠送积分活动 2415326