Trust in artificial intelligence and its influencing factors: Based on the dimensions of competence and warmth

作者
李玉刚
出处
期刊: [Institute of Psychology, Chinese Academy of Sciences]
链接
摘要

人工智能(Artificial Intelligence, AI)已在生产和生活的诸多领域得到广泛应用。研究发现,人们对 AI 的信任程度在其对 AI 技术的接纳和使用中至关重要。社会认知观点下的信任理论认为,人们基于能力(competence)和友善(warmth)来感知并形成对 AI 的信任,但尚未有实证研究验证这两个维度是否在 AI 信任中起核心作用,也未深入比较人对 AI 的信任(AI 信任)与人对人的信任(人际信任)的异同。此外,大多数 AI 信任研究依赖自我报告数据,缺乏行为层面的实证分析。针对这些问题,本论文通过四项研究(N = 4073)探讨能力、友善及其他变量在 AI 信任中的作用,比较 AI 信任与人际信任在行为和自 我报告上的差异,并探索调控 AI 信任的方法。这些研究深化了对 AI 信任机制的理解,为促进良好的人机协作提供了实证支持与实践启示。 研究一通过一项大型的代表性问卷调查(N=2187),系统考察了能力、友善以及其他 17 个信任影响变量与 AI 信任间的关系。结果表明,人们对 AI 能力 和友善程度的感知可较好地解释他们对 AI 信任的水平(R 2 = 0.47);能力和友善在其他变量与 AI信任的关系中起部分中介作用,进一步证明了这两个因素在AI信任中起核心作用。基于信任者、信任对象和交互背景的三维框架模型,研究一发现,除了能力和友善,一些 AI 作为信任对象所特有的变量(如稳健性和拟人化程度)、部分信任者特征变量(如享乐动机)和交互背景变量(如社会影响)对AI信任也有显著影响。本研究涵盖了目前为止AI信任研究中最广泛的变量,证实了以社会认知观点理解 AI 信任的有效性,明确了能力和友善在AI 信任中的核心作用。 基于能力和友善两维度,研究二通过行为实验(N = 644),在自我报告和行为指标上比较了 AI 信任与人际信任的差异。行为信任通过建议的采纳程度(WOA, weight of advice)来衡量。实验要求被试估计照片中人物的年龄,独立判断后与合作对象(AI 或人)合作完成任务,最终由被试做出判断,合作对象负责分配奖励。通过控制建议的准确性和奖励分配比例,操控合作对象的能力与友善程度。结果显示能力可以显著影响 AI 信任和人际信任,而友善虽然是影响人际信任的重要因素,但对 AI 信任的影响相对较弱。总体而言,尽管被试对 人类的评价更高,但在行为上却表现出对 AI 的偏好,即相比于人类建议,他们更倾向于采纳 AI 的建议。 算法厌恶是近期 AI 态度研究中的一个重要发现。为检验在现实环境决策中个体对 AI 和人类的信任是否存在差异,以及是否表现出对 AI 算法的偏好或厌恶,研究三开展了四项田野实验(N = 484)。研究采用了建议采纳范式,招募体育爱好者对美国职业篮球联盟(NBA)和欧洲杯足球比赛进行有奖励的预测竞猜。被试可以参考三类建议:智能算法、他人猜测和赌博赔率。结果显示,尽 管智能算法预测准确率最高,在篮球比赛中,被试最倾向采纳赌场赔率的建议;而在足球比赛中,被试对智能算法和赌博赔率的选择频率最高,但对不同来源信息的建议采纳度没有差异。总体而言,实验结果未在行为层面发现明显的AI 算法偏好或厌恶。在以体育比赛预测为代表的现实环境决策中,被试对AI 算法和人类的信任无明显差异,这可能与 AI 算法能力、任务情境及个体经验有关,需进一步研究探讨。 研究四通过五个行为实验(N = 758)检验了通过增强个体对 AI 的友善和能力感知来调控 AI 信任的多种方法,为 AI 信任的干预策略提供了实证基础。研究 4a 发现友善表情反馈对 AI 信任有提升作用,研究 4b 表明显示与 AI 能力匹配的置信度可以有效调控信任水平,研究 4c 发现显示 AI 和被试的历史表现可以增加被试对高能力 AI 的信任,研究 4d发现解释 AI出现偏差的原因会降低 AI信任,研究 4e 则初步探索了 AI 素养培训对信任的影响。研究四验证了通过增强个体对 AI 的友善和能力感知可以实现对 AI 信任的调控,为 AI 信任干预措施的 制定提供了理论和实践依据。 本论文通过一项大规模问卷调查和三项实验研究,围绕能力和友善维度,考察了影响 AI 信任的关键因素,比较了 AI 信任与人际信任的差别,在理论上 深化了对AI信任形成机制的理解,并在实践上探索了调控AI信任的方法手段。本论文的主要贡献和创新点在于:(1)明确了能力和友善在 AI 信任中的核心作用,验证了 AI 信任的社会认知观点的有效性;(2)在行为和自我报告指标上,对比了 AI 信任与人际信任的差异,发现了 AI 信任在态度与行为之间的分离以及 AI 偏好现象;(3)在现实的决策情境下考察了个体对 AI 算法和人的信任的差异,未在行为层面发现明显的 AI 算法偏好或厌恶;(4)考察了通过增强能力和友善感知来调控 AI 信任的不同方式,发现友善反馈、置信度反馈、历史表现反馈和偏差解释反馈可以有效调控 AI 信任,为 AI 交互设计和信任调控提供了重要启示;(5)开发了一个基于建议采纳的行为研究范式,可用于系统检验 AI信任的影响因素和调控手段。

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
柳慧完成签到,获得积分10
1秒前
KennyBiao完成签到,获得积分10
2秒前
刘正宇完成签到,获得积分10
2秒前
科研通AI6.2的应助被zhailingyou采纳,获得10
4秒前
4秒前
wanci的应助被姜丝罐罐n采纳,获得10
4秒前
6秒前
6秒前
酷炫绮菱完成签到,获得积分10
7秒前
白夜完成签到,获得积分10
7秒前
做科研的小丸子完成签到,获得积分10
7秒前
半夏完成签到,获得积分10
7秒前
极限001给逗号的求助进行了留言
8秒前
Ava的应助被xcx采纳,获得10
8秒前
富贵儿发布了新的文献求助10
8秒前
王之争霸完成签到,获得积分10
8秒前
科研通AI6.2的应助被zhailingyou采纳,获得10
9秒前
9秒前
10秒前
Hello的应助被寒耒采纳,获得10
10秒前
10秒前
11秒前
NexusExplorer的应助被goxiaoshuang采纳,获得10
11秒前
keliya完成签到 ,获得积分10
11秒前
小刘恨香菜完成签到,获得积分10
11秒前
林余完成签到,获得积分20
12秒前
12秒前
12秒前
科研通AI6.2的应助被zhailingyou采纳,获得10
13秒前
飞天三叉戟完成签到,获得积分10
13秒前
高挑的金毛完成签到 ,获得积分10
14秒前
shilong.yang发布了新的文献求助10
14秒前
小星星完成签到,获得积分10
15秒前
曹学泰发布了新的文献求助10
15秒前
你好完成签到 ,获得积分10
16秒前
yk发布了新的文献求助10
17秒前
17秒前
姜丝罐罐n发布了新的文献求助10
17秒前
李爱国的应助被果子88采纳,获得10
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
John McDowells Bildungstheorie 800
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Handbook of Pharmaceutical Excipients. 9th ed 400
Synthesis, Application and Future Perspectives of Smart Nano-materials - Part 1 400
Breaking the World 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8153668
求助须知:如何正确求助?哪些是违规求助? 9550448
关于积分的说明 21698499
捐赠科研通 7742484
什么是DOI,文献DOI怎么找? 3425564
关于科研通互助平台的介绍 2550698
邀请新用户注册赠送积分活动 2469211