The effects of over-reliance on AI dialogue systems on students' cognitive abilities: a systematic review

认知 认知科学 计算机科学 心理学 认知心理学 神经科学
作者
Chunpeng Zhai,Santoso Wibowo,Lily D. Li
出处
期刊:Smart Learning Environments [Springer Nature]
卷期号:11 (1) 被引量:1379
标识
DOI:10.1186/s40561-024-00316-7
摘要

Abstract The growing integration of artificial intelligence (AI) dialogue systems within educational and research settings highlights the importance of learning aids. Despite examination of the ethical concerns associated with these technologies, there is a noticeable gap in investigations on how these ethical issues of AI contribute to students’ over-reliance on AI dialogue systems, and how such over-reliance affects students’ cognitive abilities. Overreliance on AI occurs when users accept AI-generated recommendations without question, leading to errors in task performance in the context of decision-making. This typically arises when individuals struggle to assess the reliability of AI or how much trust to place in its suggestions. This systematic review investigates how students’ over-reliance on AI dialogue systems, particularly those embedded with generative models for academic research and learning, affects their critical cognitive capabilities including decision-making, critical thinking, and analytical reasoning. By using the Preferred Reporting Items for Systematic Reviews and Meta-Analyses (PRISMA) guidelines, our systematic review evaluated a body of literature addressing the contributing factors and effects of such over-reliance within educational and research contexts. The comprehensive literature review spanned 14 articles retrieved from four distinguished databases: ProQuest, IEEE Xplore, ScienceDirect, and Web of Science. Our findings indicate that over-reliance stemming from ethical issues of AI impacts cognitive abilities, as individuals increasingly favor fast and optimal solutions over slow ones constrained by practicality. This tendency explains why users prefer efficient cognitive shortcuts, or heuristics, even amidst the ethical issues presented by AI technologies.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
华仔的应助被典雅的平松采纳,获得30
1秒前
Full发布了新的文献求助10
1秒前
wen发布了新的文献求助10
1秒前
1秒前
syvshc的应助被HJJHJH采纳,获得10
2秒前
所所的应助被HJJHJH采纳,获得10
2秒前
曾珍完成签到 ,获得积分10
3秒前
3秒前
Cathy完成签到,获得积分10
4秒前
Lillee完成签到,获得积分10
5秒前
理想红猪发布了新的文献求助10
5秒前
huhuhu完成签到,获得积分10
6秒前
syvshc的应助被arniu2008采纳,获得10
7秒前
7秒前
斯文败类的应助被棉花糖采纳,获得10
8秒前
乐观雪卉发布了新的文献求助20
8秒前
郭刚发布了新的文献求助10
8秒前
慕青的应助被山东科技李采纳,获得10
8秒前
9秒前
jason完成签到 ,获得积分10
9秒前
泡泡完成签到 ,获得积分10
9秒前
qaz123发布了新的文献求助10
9秒前
10秒前
pxy_pku完成签到,获得积分10
10秒前
10秒前
12秒前
一把过完成签到,获得积分10
12秒前
阿玉艳发布了新的文献求助20
13秒前
Devout完成签到,获得积分10
13秒前
14秒前
wangweisky发布了新的文献求助10
14秒前
潇洒小松鼠完成签到,获得积分20
14秒前
potatoes完成签到,获得积分10
14秒前
beichen完成签到,获得积分10
15秒前
charint完成签到,获得积分10
15秒前
gonna完成签到,获得积分10
16秒前
成就半梦完成签到,获得积分10
16秒前
回忆里才完整完成签到,获得积分10
16秒前
连夏之发布了新的文献求助10
17秒前
嘻嘻滑呀完成签到,获得积分10
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8186353
求助须知:如何正确求助?哪些是违规求助? 9574789
关于积分的说明 21838002
捐赠科研通 7783987
什么是DOI,文献DOI怎么找? 3434752
关于科研通互助平台的介绍 2559147
邀请新用户注册赠送积分活动 2481535