Preferences in AI algorithms: The need for relevant risk attitudes in automated decisions under uncertainties

偏爱 计算机科学 点(几何) 决策者 过程(计算) 风险分析(工程) 人工智能 机器学习 运筹学 工程类 数学 几何学 医学 统计 操作系统
作者
Elisabeth Paté‐Cornell
出处
期刊:Risk Analysis [Wiley]
卷期号:44 (10): 2317-2323 被引量:14
标识
DOI:10.1111/risa.14268
摘要

Artificial intelligence (AI) has the potential to improve life and reduce risks by providing large amounts of information embedded in big databases and by suggesting or implementing automated decisions under uncertainties. Yet, in the design of a prescriptive AI algorithm, some problems may occur, first and clearly, if the AI information is wrong or incomplete. But the main point of this article is that under uncertainties, the decision algorithm, rational or not, includes, in one way or another, a risk attitude in addition to deterministic preferences. That risk attitude implemented in the software is chosen by the analysts, the organization that they serve, the experts who inform them, and more generally by the process of identifying possible options. The problem is that it may or may not represent, as it should, the preferences of the actual decision maker (the risk manager) and of the people subjected to his/her decisions. This article briefly describes the sometimes-serious problem of that discrepancy between the preferences of the risk managers who use an AI output, and the risk attitude embedded in the AI system. The recommendation is to make these AI factors as accessible and transparent as possible and to allow for preference adjustments in the model if needed. The formulation of two simplified examples is described, that of a medical doctor and his/her patient when using an AI system to decide of a treatment option, and that of a skipper in a sailing race such as the America's Cup, receiving AI-processed sensor signals about the sailing conditions on different possible courses.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Krystal发布了新的文献求助10
刚刚
ren完成签到,获得积分10
1秒前
pi完成签到 ,获得积分10
1秒前
风中的笑白完成签到,获得积分10
1秒前
tctianna完成签到,获得积分10
2秒前
2秒前
赤壁完成签到,获得积分10
2秒前
2秒前
2秒前
123456789完成签到,获得积分10
3秒前
九三完成签到,获得积分10
3秒前
3秒前
3秒前
文艺的元菱完成签到,获得积分10
4秒前
HH完成签到 ,获得积分10
4秒前
DOC_XIONG完成签到,获得积分0
4秒前
科研小白完成签到 ,获得积分10
4秒前
饱满语风完成签到 ,获得积分10
4秒前
赤练仙子发布了新的文献求助10
5秒前
水煮电吹风的应助被SamYang采纳,获得10
5秒前
程娇完成签到,获得积分10
5秒前
5秒前
5秒前
科研通AI2S的应助被能干小蘑菇采纳,获得10
5秒前
智慧大狗发布了新的文献求助10
5秒前
6秒前
Yonaxus完成签到 ,获得积分10
7秒前
宋晓静完成签到,获得积分10
7秒前
年轻的纲完成签到 ,获得积分10
7秒前
mask完成签到,获得积分10
7秒前
serven完成签到,获得积分10
7秒前
小蘑菇的应助被怕黑的缘分采纳,获得10
7秒前
研友_ngkEgn完成签到,获得积分10
8秒前
ww完成签到 ,获得积分10
9秒前
Blue完成签到 ,获得积分10
9秒前
lzx完成签到,获得积分10
9秒前
yu发布了新的文献求助30
9秒前
asdfsdafg发布了新的文献求助10
9秒前
Krystal完成签到,获得积分10
10秒前
Peng小糕完成签到,获得积分10
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8180339
求助须知:如何正确求助?哪些是违规求助? 9570391
关于积分的说明 21811279
捐赠科研通 7776418
什么是DOI,文献DOI怎么找? 3433277
关于科研通互助平台的介绍 2557483
邀请新用户注册赠送积分活动 2479091