Regression-Enhanced Random Forests

作者
Haozhe Zhang,Dan Nettleton,Zhengyuan Zhu
出处
期刊:Cornell University - arXiv [Cornell University]
卷期号:: 636-647 被引量:12
标识
DOI:10.48550/arxiv.1904.10416
摘要

Random forest (RF) methodology is one of the most popular machine learning techniques for prediction problems. In this article, we discuss some cases where random forests may suffer and propose a novel generalized RF method, namely regression-enhanced random forests (RERFs), that can improve on RFs by borrowing the strength of penalized parametric regression. The algorithm for constructing RERFs and selecting its tuning parameters is described. Both simulation study and real data examples show that RERFs have better predictive performance than RFs in important situations often encountered in practice. Moreover, RERFs may incorporate known relationships between the response and the predictors, and may give reliable predictions in extrapolation problems where predictions are required at points out of the domain of the training dataset. Strategies analogous to those described here can be used to improve other machine learning methods via combination with penalized parametric regression techniques.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
yc发布了新的文献求助20
1秒前
隐形曼青的应助被ccxx采纳,获得10
1秒前
2秒前
3秒前
sd完成签到,获得积分10
3秒前
于熙源发布了新的文献求助10
4秒前
4秒前
美好的涵雁完成签到,获得积分10
4秒前
优雅的水桃完成签到 ,获得积分10
5秒前
Alex发布了新的文献求助10
6秒前
sxq完成签到 ,获得积分10
7秒前
luo的应助被123采纳,获得10
7秒前
Magic完成签到,获得积分10
8秒前
科研通AI6.4的应助被Adamcssy19采纳,获得10
8秒前
Lucas的应助被傅三毒采纳,获得10
8秒前
9秒前
迷路谷秋完成签到,获得积分10
10秒前
大米饭完成签到,获得积分10
12秒前
科研通AI6.2的应助被CC采纳,获得10
12秒前
13秒前
maoning发布了新的文献求助10
13秒前
情怀的应助被Damin采纳,获得10
13秒前
青鱼完成签到,获得积分10
14秒前
搞怪的老九的应助被YSY采纳,获得10
15秒前
15秒前
黑煤球发布了新的文献求助10
15秒前
16秒前
16秒前
遍地捡糖不要钱完成签到 ,获得积分10
16秒前
李爱国的应助被西in采纳,获得10
17秒前
17秒前
Jasper的应助被Alex采纳,获得10
17秒前
penguin发布了新的文献求助10
17秒前
Jxw完成签到,获得积分10
17秒前
frankyeah完成签到,获得积分10
18秒前
小章鱼完成签到 ,获得积分10
18秒前
无花果的应助被LKF采纳,获得10
18秒前
啾啾发布了新的文献求助10
18秒前
李健的应助被shiqiyuan采纳,获得10
18秒前
19秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology)求助 1000
Encyclopedia of Modern Artificial Intelligence 1000
John McDowells Bildungstheorie 800
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Synthesis, Application and Future Perspectives of Smart Nano-materials - Part 1 400
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8153573
求助须知:如何正确求助?哪些是违规求助? 9550279
关于积分的说明 21697424
捐赠科研通 7742161
什么是DOI,文献DOI怎么找? 3425546
关于科研通互助平台的介绍 2550636
邀请新用户注册赠送积分活动 2469181