Debiasing ML- or AI-Generated Regressors in Partially Linear Models

借记 杠杆(统计) 计算机科学 机器学习 估计员 集合(抽象数据类型) 大数据 计量经济学 人工智能 回归分析 商业智能 数据挖掘 因果推理 可扩展性 线性回归 回归 分析 预测分析 数据集 商业分析 逻辑回归 线性模型 工具变量 数据科学 数据建模 面板数据 因果模型 工作(物理) 数据分析 事后诸葛亮 数据仓库
作者
Jingwen Zhang,Wendao Xue,Yifan Yu,Yong Tan
出处
期刊:Information Systems Research [Institute for Operations Research and the Management Sciences]
被引量:1
标识
DOI:10.1287/isre.2024.1370
摘要

Organizations increasingly use machine learning (ML) and artificial intelligence (AI), including large language models, to generate variables for regression models that inform business and policy decisions. For example, practitioners may use AI to predict review sentiment, ad aesthetics, or emotional expressions, and then estimate their causal effects on outcomes such as sales or engagement. However, because AI predictions are imperfect, directly using these AI-generated variables as regressors introduces measurement error that can systematically bias causal estimates, potentially leading to over- or underinvestment in business strategies. We develop new estimators that correct this bias in partially linear regression models, which are widely deployed in experimental systems at major platforms, including Tencent, Amazon AWS, and Microsoft. Our approach requires only a small human-annotated subsample alongside the large AI-labeled data set to achieve unbiased and efficient estimation. We demonstrate that our methods work with both traditional ML algorithms and LLM-based predictions. Our framework can be directly integrated into existing analytics and experimental systems, enabling practitioners to leverage the scalability of AI-generated data while maintaining reliable causal conclusions. This work also has implications for AI fairness, as our approach can help correct biases from any source in AI predictions.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
jtyjmn发布了新的文献求助10
刚刚
1秒前
sheep发布了新的文献求助10
1秒前
Jolin完成签到,获得积分10
1秒前
优雅的琳发布了新的文献求助10
2秒前
里脊肉发布了新的文献求助10
3秒前
中国美味蘑菇完成签到,获得积分10
3秒前
mxb发布了新的文献求助10
3秒前
科研通AI6.4应助全没了采纳,获得10
3秒前
赘婿应助buqi采纳,获得10
4秒前
甘川发布了新的文献求助10
4秒前
建安风骨完成签到 ,获得积分20
4秒前
waier完成签到,获得积分10
5秒前
5秒前
科研通AI6.2应助Easlie采纳,获得10
5秒前
5秒前
Wells应助dxl采纳,获得10
6秒前
万能图书馆应助Tourist采纳,获得30
6秒前
hlccccc完成签到,获得积分10
6秒前
6秒前
wanci应助潇洒的豪采纳,获得10
6秒前
RFLAWLESS发布了新的文献求助100
7秒前
彳亍1117发布了新的文献求助10
8秒前
8秒前
11完成签到,获得积分10
9秒前
悦耳伯云发布了新的文献求助10
10秒前
科研通AI6.4应助mxb采纳,获得10
10秒前
10秒前
背后如彤完成签到,获得积分10
11秒前
27发布了新的文献求助10
11秒前
我是老大应助槐序二三采纳,获得10
11秒前
12秒前
13秒前
老吉完成签到,获得积分10
13秒前
yeon发布了新的文献求助10
14秒前
漂亮采白发布了新的文献求助10
14秒前
14秒前
14秒前
14秒前
15秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Principles of town planning: translating concepts to applications 1000
1 Peter and Christ's Descent to the Dead in Its Early Christian Reception 700
Organizational Behavior 510
Management and the Arts 510
Matrix Methods in Data Mining and Pattern Recognition Second Edition 510
Photothermal Science and Techniques 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 内科学 物理 复合材料 催化作用 细胞生物学 无机化学 光电子学 物理化学 电极 基因
热门帖子
关注 科研通微信公众号,转发送积分 7725177
求助须知:如何正确求助?哪些是违规求助? 9277570
关于积分的说明 20122779
捐赠科研通 7301615
什么是DOI,文献DOI怎么找? 3301627
关于科研通互助平台的介绍 2454989
邀请新用户注册赠送积分活动 2309373