Auditing Bias in AI-Based Hiring Systems: A Fairness Analysis of Nationality and Gender Discrimination

审计 反事实思维 排名(信息检索) 匹配(统计) 心理学 性别偏见 范畴变量 可比性 经验证据 精算学 管道(软件) 弱势群体 偏见(法律术语) 就业歧视 约束(计算机辅助设计) 倾向得分匹配 间接证据 社会心理学 工作表现 计算机科学 荟萃分析 基础(证据) 实证研究 工作(物理) 企业社会责任 能见度
作者
Xhoana Shkajoti,Martina Ullasci,Marco Rondina,Riccardo Coppola,Antonio Vetrò,Luca Calò
出处
期刊: [Association for Computing Machinery]
卷期号:: 411-419
标识
DOI:10.1145/3794786.3830781
摘要

In recent years, artificial intelligence (AI) systems have become increasingly integrated into recruitment processes, particularly in early-stage candidate screening based on semantic matching between CVs and job descriptions. While embedding-based models promise efficiency and scalability, they also raise concerns regarding fairness, as they may encode and propagate historical social biases present in training data. This study presents a controlled and reproducible audit of a hiring pipeline built on Sentence-BERT (SBERT) to verify disparate outcomes related to gender and nationality. Using a synthetic dataset of matched candidate profiles, we perform a counterfactual analysis across three operational levels: similarity scores, threshold-based screening decisions, and Top-K ranking outcomes. Results reveal systematic disparities in candidate visibility according to their gender and nationality. While score-level differences are small in magnitude, they have a significant impact on screening and ranking decisions, with female candidates and Italian profiles being the most disadvantaged groups. This work contributes a transparent audit framework and provides empirical evidence supporting the need for usage-oriented fairness evaluation in AI-based hiring systems.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
lazyp完成签到 ,获得积分10
刚刚
刚刚
赘婿的应助被李一凡采纳,获得10
刚刚
jhlllllll发布了新的文献求助10
刚刚
kings发布了新的文献求助10
刚刚
虚幻慕凝发布了新的文献求助10
1秒前
molihuakai的应助被freak采纳,获得10
1秒前
大个的应助被翁雁丝采纳,获得10
2秒前
2秒前
OPO发布了新的文献求助10
3秒前
Maestro_S的应助被绒绒采纳,获得10
3秒前
3秒前
22222发布了新的文献求助10
3秒前
简单春天发布了新的文献求助10
4秒前
4秒前
LFG完成签到,获得积分10
4秒前
5秒前
6秒前
筑天完成签到,获得积分10
6秒前
6秒前
华仔的应助被MYY采纳,获得10
6秒前
闪闪的灵发布了新的文献求助10
6秒前
Tomi完成签到,获得积分10
7秒前
共享精神的应助被Yxblin采纳,获得10
7秒前
7秒前
Orange的应助被法就采纳,获得15
7秒前
7秒前
8秒前
8秒前
虚幻慕凝完成签到,获得积分20
8秒前
8秒前
lsq完成签到,获得积分10
9秒前
天天快乐的应助被公主抡大锤采纳,获得10
9秒前
木仓发布了新的文献求助10
9秒前
思源的应助被hamster666采纳,获得10
10秒前
贤君发布了新的文献求助10
10秒前
maT发布了新的文献求助10
10秒前
10秒前
Owen的应助被简单春天采纳,获得10
10秒前
张煜禾发布了新的文献求助10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
八旗制度の研究 600
What Else Can I Tell You?: A Pragmatic Study of English Rhetorical Questions as Discursive and Argumentative Acts 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8164445
求助须知:如何正确求助?哪些是违规求助? 9558283
关于积分的说明 21744871
捐赠科研通 7754979
什么是DOI,文献DOI怎么找? 3428582
关于科研通互助平台的介绍 2553119
邀请新用户注册赠送积分活动 2473142