The importance of choosing a proper validation strategy in predictive models. Part 2: Recipes for (avoiding) overfitting-A tutorial

过度拟合 预处理器 计算机科学 蓝图 模型验证 机器学习 预测建模 人工智能 数据挖掘 数据验证 数据预处理 工作(物理) 背景(考古学) 训练集 数据科学 交叉验证 计算模型
作者
Eneko López,Giulia Gorla,Jaione Etxebarria‐Elezgarai,José Manuel Amigo,Andreas Seifert
出处
期刊:Analytica Chimica Acta [Elsevier BV]
卷期号:1384: 344838-344838 被引量:6
标识
DOI:10.1016/j.aca.2025.344838
摘要

Overfitting remains one of the most pervasive and deceptive pitfalls in predictive modeling. It leads to models that perform exceptionally well on training data but cannot be transferred nor generalized to real-world scenarios. Although overfitting is usually attributed to excessive model complexity, it is often the result of inadequate validation strategies, faulty data preprocessing and biased model selection, problems that can inflate apparent accuracy and compromise predictive reliability. In this second part of our series, we examine the most common yet overlooked practices that contribute to overfitting, ranging from data leakage in preprocessing to the pressures of scientific publishing that encourage result-driven overoptimization. By identifying these pitfalls and providing practical guidelines for performing robust validation protocols, this work serves as a blueprint for researchers to ensure their models are not only high-performing but also trustworthy, reproducible, and generalizable. • Comprehensive tutorial on external validation • Focus on overfitting as one of the most pervasive and deceptive pitfalls • An eight-step checklist for reliable chemometric modeling • Overfitting as a result of a chain of avoidable missteps

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Orange应助解天德采纳,获得10
1秒前
白兔完成签到,获得积分10
2秒前
3秒前
标致青丝发布了新的文献求助10
3秒前
ming发布了新的文献求助30
3秒前
LIU完成签到,获得积分10
3秒前
青青旦完成签到,获得积分10
4秒前
烟花应助活泼的妙梦采纳,获得10
4秒前
freebird20完成签到,获得积分20
4秒前
爆米花应助害怕的语柔采纳,获得10
5秒前
在水一方应助JCP采纳,获得10
5秒前
斯文败类应助羲成采纳,获得10
5秒前
口岸是你完成签到,获得积分10
6秒前
斯文败类应助LiYipeiiiiOvO采纳,获得10
6秒前
6秒前
丘比特应助Lorenzo采纳,获得10
7秒前
xiayan完成签到 ,获得积分10
7秒前
张耀发布了新的文献求助10
8秒前
李健的小迷弟应助LiShin采纳,获得10
8秒前
wzz完成签到 ,获得积分10
8秒前
8秒前
Chopin发布了新的文献求助10
9秒前
9秒前
TT完成签到,获得积分10
10秒前
Tal完成签到,获得积分10
11秒前
11秒前
默默小鸽子完成签到,获得积分10
12秒前
布布发布了新的文献求助10
12秒前
沸羊羊完成签到,获得积分10
12秒前
12秒前
激昂的逊完成签到,获得积分10
13秒前
Lycoris林曦发布了新的文献求助10
13秒前
13秒前
潇洒水壶发布了新的文献求助10
14秒前
丘比特应助怡然的冰凡采纳,获得20
15秒前
15秒前
MTF发布了新的文献求助10
15秒前
16秒前
16秒前
LiYipeiiiiOvO发布了新的文献求助10
16秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
HYDROLYSE ACIDE DE QUELQUES DIOXASPIROCYCLANES 1000
Navigating Normative Orders. Interdisciplinary Perspectives 800
1 Peter and Christ's Descent to the Dead in Its Early Christian Reception 700
Essentials of Carbohydrate Chemistry and Biochemistry, 4th Edition 600
Organizational Behavior 510
Management and the Arts 510
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7740905
求助须知:如何正确求助?哪些是违规求助? 9289399
关于积分的说明 20195846
捐赠科研通 7319073
什么是DOI,文献DOI怎么找? 3306538
关于科研通互助平台的介绍 2458853
邀请新用户注册赠送积分活动 2316842