清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

Fairness May Backfire: When Leveling-Down Occurs in Fair Machine Learning

作者
Yi Yang,Xiangyu Chang,Pei-yu Chen
出处
期刊:Cornell University - arXiv [Cornell University]
标识
DOI:10.48550/arxiv.2603.06901
摘要

As machine learning (ML) systems increasingly shape access to credit, jobs, and other opportunities, the fairness of algorithmic decisions has become a central concern. Yet it remains unclear when enforcing fairness constraints in these systems genuinely improves outcomes for affected groups or instead leads to "leveling down," making one or both groups worse off. We address this question in a unified, population-level (Bayes) framework for binary classification under prevalent group fairness notions. Our Bayes approach is distribution-free and algorithm-agnostic, isolating the intrinsic effect of fairness requirements from finite-sample noise and from training and intervention specifics. We analyze two deployment regimes for ML classifiers under common legal and governance constraints: attribute-aware decision-making (sensitive attributes available at decision time) and attribute-blind decision-making (sensitive attributes excluded from prediction). We show that, in the attribute-aware regime, fair ML necessarily (weakly) improves outcomes for the disadvantaged group and (weakly) worsens outcomes for the advantaged group. In contrast, in the attribute-blind regime, the impact of fairness is distribution-dependent: fairness can benefit or harm either group and may shift both groups' outcomes in the same direction, leading to either leveling up or leveling down. We characterize the conditions under which these patterns arise and highlight the role of "masked" candidates in driving them. Overall, our results provide structural guidance on when pursuing algorithmic fairness is likely to improve group outcomes and when it risks systemic leveling down, informing fair ML design and deployment choices.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Maestro_S的应助被博修采纳,获得100
3秒前
魔幻荧完成签到,获得积分10
3秒前
张博完成签到 ,获得积分10
4秒前
LYH完成签到,获得积分10
10秒前
J_Xu完成签到 ,获得积分10
11秒前
七叶花开完成签到,获得积分10
11秒前
SunJay完成签到 ,获得积分10
12秒前
复杂以旋完成签到,获得积分10
20秒前
心无杂念完成签到 ,获得积分10
21秒前
Shicheng发布了新的文献求助10
22秒前
忧虑的静柏完成签到 ,获得积分10
25秒前
果酱完成签到,获得积分10
30秒前
科研通AI6.3的应助被leapper采纳,获得10
35秒前
如意2023完成签到 ,获得积分10
38秒前
阿晖完成签到,获得积分10
39秒前
鲜艳的念寒完成签到,获得积分10
39秒前
领导范儿的应助被菲菲采纳,获得10
43秒前
Zoe完成签到,获得积分0
49秒前
50秒前
彩色的可冥完成签到,获得积分10
50秒前
奔跑的应助被cc采纳,获得10
51秒前
程志强完成签到 ,获得积分10
51秒前
樂楽完成签到,获得积分10
53秒前
小孟小孟完成签到 ,获得积分10
57秒前
噜噜晓完成签到 ,获得积分10
1分钟前
xiepeijuan的应助被lili采纳,获得10
1分钟前
1分钟前
免疫小白完成签到 ,获得积分10
1分钟前
leapper发布了新的文献求助10
1分钟前
绵绵冰完成签到 ,获得积分10
1分钟前
1分钟前
开放的花卷完成签到 ,获得积分10
1分钟前
菲菲发布了新的文献求助10
1分钟前
龙行天下完成签到 ,获得积分10
1分钟前
大大完成签到 ,获得积分10
1分钟前
狞风妖完成签到 ,获得积分10
1分钟前
菲菲完成签到,获得积分10
1分钟前
悄然飘去完成签到 ,获得积分10
1分钟前
复杂妙海完成签到,获得积分10
1分钟前
轩辕十四完成签到,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
plantTFDB 508
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8173230
求助须知:如何正确求助?哪些是违规求助? 9565593
关于积分的说明 21780536
捐赠科研通 7767429
什么是DOI,文献DOI怎么找? 3431542
关于科研通互助平台的介绍 2555764
邀请新用户注册赠送积分活动 2476697