AI-powered peer review needs human supervision

问责 透明度(行为) 危害 对话 最佳实践 独创性 保密 质量(理念) 价值(数学) 过程(计算) 公共关系 计算机科学 工程伦理学 知识管理 政治学 社会学 计算机安全 工程类 法学 创造力 哲学 机器学习 操作系统 认识论 沟通
作者
Mohamed Lamine Seghier
出处
期刊:Journal of Information, Communication and Ethics in Society [Emerald Publishing Limited]
卷期号:23 (1): 104-116 被引量:26
标识
DOI:10.1108/jices-09-2024-0132
摘要

Purpose This paper aims to appraise current challenges in adopting generative AI by reviewers to evaluate the readability and quality of submissions. The paper discusses how to make the AI-powered peer-review process immune to unethical practices, such as the proliferation of AI-generated poor-quality or fake reviews that could harm the value of peer review. Design/methodology/approach This paper examines the potential roles of AI in peer review, the challenges it raises and their mitigation. It critically appraises current opinions and practices while acknowledging the lack of consensus about best practices in AI for peer review. Findings The adoption of generative AI by the peer review process seems inevitable, but this has to happen (1) gradually, (2) under human supervision, (3) by raising awareness among stakeholders about all its ramifications, (4) through improving transparency and accountability, (5) while ensuring confidentiality through the use of locally hosted AI systems, (6) by acknowledging its limitations such as its inherent bias and unawareness of up-to-date knowledge, (7) by putting in place robust safeguards to maximize its benefits and lessen its potential harm and (8) by implementing a robust quality assurance to assess its impact on overall research quality. Originality/value In the current race for more AI in scholarly communication, this paper advocates for a human-centered oversight of AI-powered peer review. Eroding the role of humans will create an undesirable situation where peer review will gradually metamorphose into an awkward conversation between an AI writing a paper and an AI evaluating that paper.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
11完成签到,获得积分10
刚刚
Rr完成签到,获得积分10
刚刚
h11的应助被滕祥采纳,获得200
刚刚
刚刚
风吹草动玉米粒完成签到,获得积分10
1秒前
小浣熊搓手手完成签到,获得积分10
1秒前
Rommel发布了新的文献求助10
1秒前
一只鱼完成签到 ,获得积分10
2秒前
曾志伟完成签到,获得积分10
2秒前
3秒前
小巧的花生完成签到,获得积分10
3秒前
ethely完成签到,获得积分10
3秒前
xuan发布了新的文献求助10
3秒前
3秒前
ky完成签到 ,获得积分10
3秒前
阿伦尼乌斯完成签到,获得积分10
3秒前
3秒前
123发布了新的文献求助10
3秒前
852的应助被淡定的松子采纳,获得10
4秒前
4秒前
喜悦绿旋完成签到,获得积分10
4秒前
Booksiy2完成签到,获得积分10
4秒前
居糯糯完成签到,获得积分10
4秒前
沾沾完成签到,获得积分10
4秒前
5秒前
张宇发布了新的文献求助10
5秒前
梧wu完成签到,获得积分10
5秒前
王灿完成签到,获得积分10
5秒前
积极老四完成签到,获得积分10
5秒前
夹生饭完成签到,获得积分10
5秒前
顾矜的应助被古朵采纳,获得10
6秒前
桐桐的应助被痴情志浩采纳,获得10
6秒前
6秒前
6秒前
hao完成签到 ,获得积分20
7秒前
lsq108完成签到,获得积分10
7秒前
渡人舟的应助被anc采纳,获得10
7秒前
毛毛完成签到 ,获得积分10
7秒前
7秒前
蓝天的应助被phdyhm采纳,获得10
8秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8160268
求助须知:如何正确求助?哪些是违规求助? 9555328
关于积分的说明 21727231
捐赠科研通 7750062
什么是DOI,文献DOI怎么找? 3427353
关于科研通互助平台的介绍 2552391
邀请新用户注册赠送积分活动 2471707