A Large‐Scale Empirical Evaluation of Cross‐Validation and External Test Set Validation in (Q)SAR

交叉验证 模型验证 工作流程 计算机科学 集合(抽象数据类型) 试验装置 数据挖掘 比例(比率) 数据验证 差异(会计) 机器学习 人工智能 数据库 程序设计语言 会计 量子力学 业务 数据科学 物理
作者
Martin Gütlein,Christoph Helma,Andreas Karwath,Stefan Krämer
出处
期刊:Molecular Informatics [Wiley]
卷期号:32 (5-6): 516-528 被引量:62
标识
DOI:10.1002/minf.201200134
摘要

(Q)SAR model validation is essential to ensure the quality of inferred models and to indicate future model predictivity on unseen compounds. Proper validation is also one of the requirements of regulatory authorities in order to accept the (Q)SAR model, and to approve its use in real world scenarios as alternative testing method. However, at the same time, the question of how to validate a (Q)SAR model, in particular whether to employ variants of cross-validation or external test set validation, is still under discussion. In this paper, we empirically compare a k-fold cross-validation with external test set validation. To this end we introduce a workflow allowing to realistically simulate the common problem setting of building predictive models for relatively small datasets. The workflow allows to apply the built and validated models on large amounts of unseen data, and to compare the performance of the different validation approaches. The experimental results indicate that cross-validation produces higher performant (Q)SAR models than external test set validation, reduces the variance of the results, while at the same time underestimates the performance on unseen compounds. The experimental results reported in this paper suggest that, contrary to current conception in the community, cross-validation may play a significant role in evaluating the predictivity of (Q)SAR models.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Mercurius完成签到 ,获得积分10
2秒前
杨杨得亿完成签到 ,获得积分10
7秒前
蓝景轩辕完成签到 ,获得积分0
11秒前
aiyouwei完成签到,获得积分10
13秒前
柔弱向雪完成签到,获得积分10
14秒前
昴星引路完成签到 ,获得积分10
33秒前
39秒前
石头完成签到 ,获得积分10
40秒前
yes完成签到 ,获得积分10
41秒前
Alvin完成签到 ,获得积分10
43秒前
漂亮秋荷完成签到,获得积分10
43秒前
lll发布了新的文献求助10
43秒前
啦啦啦完成签到 ,获得积分10
50秒前
胡萝卜完成签到 ,获得积分10
55秒前
yurunxintian完成签到,获得积分10
56秒前
57秒前
酷波er的应助被lll采纳,获得10
58秒前
婉莹完成签到 ,获得积分0
1分钟前
mengmenglv完成签到 ,获得积分0
1分钟前
Wz完成签到 ,获得积分10
1分钟前
清心淡如水完成签到 ,获得积分10
1分钟前
drkyy完成签到,获得积分10
1分钟前
ss327完成签到 ,获得积分10
1分钟前
PLANB完成签到 ,获得积分10
1分钟前
坚强冷荷完成签到,获得积分10
1分钟前
丰富含桃完成签到,获得积分10
1分钟前
忧虑的静柏完成签到 ,获得积分10
1分钟前
ahoshuo完成签到,获得积分10
1分钟前
何ry完成签到 ,获得积分10
1分钟前
Lrcx完成签到 ,获得积分10
1分钟前
驰骋完成签到 ,获得积分10
1分钟前
顺利毕业完成签到 ,获得积分10
1分钟前
吴旭东完成签到,获得积分10
1分钟前
Una完成签到,获得积分10
1分钟前
1分钟前
XWT完成签到 ,获得积分10
1分钟前
安静严青完成签到 ,获得积分10
1分钟前
范yx发布了新的文献求助10
1分钟前
大大完成签到 ,获得积分10
1分钟前
凡华完成签到 ,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8185502
求助须知:如何正确求助?哪些是违规求助? 9574242
关于积分的说明 21834586
捐赠科研通 7783123
什么是DOI,文献DOI怎么找? 3434577
关于科研通互助平台的介绍 2558951
邀请新用户注册赠送积分活动 2481357