Human-Centered Agentic AI for Biomedical Research: A Framework for Scientific Agency, Evidence, and Governance

作者
Somnath Tagore
出处
期刊:CERN European Organization for Nuclear Research - Zenodo [European Organization for Nuclear Research]
标识
DOI:10.5281/zenodo.22100166
摘要

Agentic artificial intelligence systems are extending biomedical AI beyond prediction and text generation toward multistep workflows that can plan, retrieve evidence, use tools, execute code, evaluate intermediate results, and, in some settings, connect computational reasoning with laboratory research. These capabilities may reduce coordination costs and expand access to specialized methods, but they also create new risks: errors can propagate across workflows, persuasive outputs may conceal weak evidence, and tool access can turn incorrect inferences into consequential actions. This perspective presents a human-centered framework for evaluating and governing agentic AI in biomedical research. It distinguishes technical capability, scientific validity, and institutional authority; proposes a multidimensional taxonomy of research autonomy; and introduces an autonomy–consequence approach for calibrating oversight. It also develops a lifecycle with four human decision gates—problem formulation, planning, result validation, and release—a multidomain assurance model, and a five-phase institutional roadmap spanning mapping, sandboxing, validation, governance, and staged scaling or retirement. The central argument is that human oversight should be designed as a scientific function rather than added as a final approval step. Responsible adoption requires proportional permissions, independent verification, reproducible provenance, contestability, rollback mechanisms, and continuing evaluation of the complete human–agent system. This article is a conceptual perspective and narrative synthesis; no new data were generated or analyzed.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
1秒前
2秒前
悦耳雪巧完成签到 ,获得积分10
2秒前
星辰大海的应助被优零采纳,获得10
2秒前
G18332021730发布了新的文献求助10
3秒前
妮妮完成签到,获得积分20
3秒前
orixero的应助被老师采纳,获得30
3秒前
科研通AI6.2的应助被lixiangcyx采纳,获得10
3秒前
XR完成签到,获得积分10
4秒前
5秒前
所所的应助被危机的不凡采纳,获得10
5秒前
hu发布了新的文献求助10
5秒前
ruoyii关注了科研通微信公众号
5秒前
Jacky完成签到,获得积分10
5秒前
liu发布了新的文献求助10
6秒前
syc完成签到,获得积分10
6秒前
红烧佩奇完成签到,获得积分10
6秒前
诱导效应发布了新的文献求助10
6秒前
6秒前
orixero的应助被一陈天下采纳,获得10
7秒前
Dragon完成签到 ,获得积分10
8秒前
汉堡包的应助被沉默红牛采纳,获得10
8秒前
小二郎的应助被jj采纳,获得10
8秒前
pluto的应助被w11采纳,获得50
9秒前
HAO完成签到,获得积分10
9秒前
10秒前
10秒前
或大或小发布了新的文献求助10
11秒前
完美世界的应助被Nefert采纳,获得10
11秒前
12秒前
12秒前
陈哆熙完成签到,获得积分10
12秒前
zhaobiao完成签到,获得积分10
12秒前
鲤鱼御姐发布了新的文献求助10
13秒前
Dec完成签到 ,获得积分10
13秒前
猫の傲娇完成签到,获得积分10
13秒前
14秒前
14秒前
15秒前
16秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
RNA结合蛋白调控丝状真菌次级代谢的分子机制及功能研究 2000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1080
Encyclopedia of Modern Artificial Intelligence 1000
Особенности технологий и методов информационно-психологических войн СССР с Великобританией и США в период 1939-1953 гг 1000
Critical Psychology 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8145007
求助须知:如何正确求助?哪些是违规求助? 9544159
关于积分的说明 21660593
捐赠科研通 7730658
什么是DOI,文献DOI怎么找? 3422578
关于科研通互助平台的介绍 2547643
邀请新用户注册赠送积分活动 2465185