清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

AI Hallucination in Crisis Self-Rescue Scenarios: The Impact on AI Service Evaluation and the Mitigating Effect of Human Expert Advice

建议(编程) 服务(商务) 心理学 业务 计算机科学 营销 程序设计语言
作者
Yan Song,Mingjia Cui,Fei Wan,Ziyan Yu,Jin-gui Jiang
出处
期刊:International Journal of Human-computer Interaction [Taylor & Francis]
卷期号:41 (22): 14419-14439 被引量:15
标识
DOI:10.1080/10447318.2025.2483858
摘要

Generative artificial intelligence (GAI) technology is rapidly spreading across various fields. Although AI can generate creative ideas and useful information, it often produces misleading content, known as AI hallucination. AI hallucination may affect users’ evaluation of AI service in high-risk areas such as crisis self-rescue, and even pose a threat to their lives. How to determine the impact of AI hallucination on users AI service evaluation in crisis self-rescue scenarios and reduce the negative effects of AI hallucination has become an urgent research question. To address this issue, we designed a between-subject experiment using a fire self-rescue scenario as an example, with 2 (AI hallucination: high/low) × 2 (human expert advice: Yes/No), to explore the impact of AI hallucination on individual’s AI service evaluation. Based on the theory of resource conservation, we analyzed the impact mechanism of AI hallucination on AI service evaluation from both cognitive and emotional perspectives, and further proposed the moderating role of human expert advice in this impact and mechanism. The results indicate that AI hallucination has a significant negative impact on AI service evaluation. The degree of emotional relief and cognitive load mediate the impact between AI hallucination and AI service evaluation. Human expert advice significantly reduces the cognitive load caused by AI hallucination, alleviates users’ negative emotions, and mitigates the negative impact of AI hallucination on AI service evaluation. Our research contributes to the literature on AI hallucination and provides practical recommendation for effectively mitigating the negative impacts of AI hallucination.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
俏皮诺言发布了新的文献求助10
刚刚
2秒前
Ray完成签到 ,获得积分10
8秒前
张张张发布了新的文献求助10
8秒前
luli201810完成签到 ,获得积分20
9秒前
笑点低小霜完成签到,获得积分10
10秒前
佳伦完成签到 ,获得积分10
13秒前
姚芭蕉完成签到 ,获得积分0
15秒前
小g完成签到 ,获得积分10
20秒前
张博完成签到 ,获得积分10
24秒前
大然小怪完成签到 ,获得积分10
26秒前
26秒前
一一完成签到 ,获得积分10
28秒前
drkyy完成签到,获得积分10
31秒前
张张张发布了新的文献求助10
32秒前
Orange的应助被俏皮诺言采纳,获得10
35秒前
合适的飞绿完成签到,获得积分10
38秒前
Xulyun完成签到 ,获得积分10
43秒前
迷人的水桃完成签到,获得积分10
48秒前
mellow完成签到,获得积分10
54秒前
顺利秋灵完成签到,获得积分10
55秒前
59秒前
蔡勇强完成签到 ,获得积分10
1分钟前
冥土追魂发布了新的文献求助10
1分钟前
1分钟前
Yyy发布了新的文献求助10
1分钟前
自由的冷玉完成签到,获得积分10
1分钟前
余香的应助被hongenhugu采纳,获得10
1分钟前
淡然的冬瓜完成签到,获得积分10
1分钟前
细胞呵呵完成签到 ,获得积分10
1分钟前
SunJay完成签到 ,获得积分10
1分钟前
Ava的应助被冥土追魂采纳,获得10
1分钟前
希望天下0贩的0的应助被Yyy采纳,获得10
1分钟前
1分钟前
wppbp完成签到 ,获得积分10
1分钟前
辛勤的涵菡完成签到,获得积分10
1分钟前
默默然完成签到 ,获得积分10
1分钟前
小张完成签到 ,获得积分10
1分钟前
1分钟前
酷炫梦山完成签到,获得积分10
2分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Hidden Empire of Finance: How Wall Street Profits from Our Cities and Fuels Global Inequality 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8166463
求助须知:如何正确求助?哪些是违规求助? 9559520
关于积分的说明 21750530
捐赠科研通 7757265
什么是DOI,文献DOI怎么找? 3429141
关于科研通互助平台的介绍 2553511
邀请新用户注册赠送积分活动 2473845