已入深夜,您辛苦了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!祝你早点完成任务,早点休息,好梦!

Generative AI and misinformation: a scoping review of the role of generative AI in the generation, detection, mitigation, and impact of misinformation

误传 生成语法 生成模型 计算机科学 对偶(语法数字) 人工智能 经验证据 认知 实证研究 心理学 认知科学 抗性(生态学) 知识管理 认知心理学 数据科学 管理科学
作者
Seyeon Park,Xiaoli Nan
出处
期刊:AI & society [Springer Nature]
卷期号:41 (2): 1501-1515 被引量:126
标识
DOI:10.1007/s00146-025-02620-3
摘要

Abstract The rapid advancement of generative artificial intelligence (AI) has introduced both opportunities and challenges in the fight against misinformation. This scoping review synthesizes recent empirical studies to explore the dual role of generative AI—particularly large language models (LLMs)—in the generation, detection, mitigation, and impact of misinformation. Analyzing 24 empirical studies, our review suggests that LLMs can generate highly convincing misinformation, often exploiting cognitive biases and ideological leanings of the audiences, while also demonstrating the ability to detect false claims and enhance users’ resistance to misinformation. Mitigation efforts show mixed results, with personalized corrections proving effective but safeguards inconsistently applied. Additionally, exposure to AI-generated misinformation was found to reduce trust and influence decision-making. This review underscores the need for standardized evaluation metrics, interdisciplinary collaboration, and stronger regulatory measures to ensure the responsible use of generative AI in the information ecosystem.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
WLY完成签到 ,获得积分10
1秒前
健忘豌豆完成签到 ,获得积分10
1秒前
2秒前
wshwx完成签到,获得积分10
2秒前
言_完成签到 ,获得积分10
2秒前
2秒前
mark707完成签到,获得积分10
3秒前
4秒前
的速度发布了新的文献求助10
4秒前
云中漫步完成签到 ,获得积分10
4秒前
shuicaoxi完成签到,获得积分10
4秒前
5秒前
dart1023发布了新的文献求助10
6秒前
6秒前
wintersss完成签到,获得积分10
6秒前
smh完成签到 ,获得积分10
7秒前
无问西东完成签到,获得积分10
7秒前
大力迎丝完成签到,获得积分10
8秒前
9秒前
行走发布了新的文献求助10
12秒前
loserH完成签到,获得积分10
13秒前
yuedi完成签到 ,获得积分10
13秒前
体贴旭尧完成签到,获得积分20
14秒前
sk完成签到 ,获得积分10
14秒前
KaoCt关注了科研通微信公众号
14秒前
俏皮的火龙果完成签到,获得积分10
14秒前
123完成签到 ,获得积分10
15秒前
16秒前
Akim的应助被JUAN123采纳,获得50
17秒前
重要手机完成签到 ,获得积分10
18秒前
18秒前
搞怪人雄完成签到 ,获得积分10
18秒前
Nole的应助被Pittes采纳,获得10
19秒前
软软完成签到,获得积分10
19秒前
BlackSky完成签到 ,获得积分10
19秒前
马达发布了新的文献求助10
20秒前
21秒前
清爽念柏完成签到 ,获得积分10
21秒前
李晨赫发布了新的文献求助10
22秒前
爱吃橙子完成签到 ,获得积分10
22秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8189866
求助须知:如何正确求助?哪些是违规求助? 9577019
关于积分的说明 21851254
捐赠科研通 7787798
什么是DOI,文献DOI怎么找? 3435795
关于科研通互助平台的介绍 2559856
邀请新用户注册赠送积分活动 2482699