已入深夜,您辛苦了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!祝你早点完成任务,早点休息,好梦!

Guardrails for Human-AI Ecologies: Norm-Based Coordination and Design for Predictability

可预测性 规范(哲学) 集合(抽象数据类型) 编码 协调博弈 计算机科学 风险分析(工程) 管理科学 系统论 系统设计
作者
Thomas Grisold,Nicholas Berente,Stefan Seidel
出处
期刊:Management Information Systems Quarterly [MIS Quarterly]
卷期号:49 (4): 1239-1266 被引量:32
标识
DOI:10.25300/misq/2025/18058
摘要

Human-AI ecologies involve human and AI-based agents that coordinate their interactions in part by following social norms. Social norms, therefore, are important for establishing the guardrails that ensure desirable interactions in a way that is consistent with essential values, such as human safety. Managing human-AI ecologies requires specifying norms to enable coordination in known situations but also allowing for the emergence of norms to enable coordination in unspecified, unstructured situations. We integrate predictive processing theory and social norm theory to explain how existing norms are enacted and reinforced based on agents’ predictive models and how new norms emerge as agents update their predictive models in response to prediction errors in uncertain coordination scenarios. Rooted in this perspective, we develop a design theory that emphasizes design for predictability and propose a set of design principles for managers and developers to encode norms to evolve in human-AI ecologies, monitor outcomes, and intervene when necessary.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
猪哥完成签到 ,获得积分10
刚刚
会做饭的才是好厨子完成签到,获得积分10
1秒前
Myownway完成签到 ,获得积分10
1秒前
starrism完成签到,获得积分10
3秒前
shyx完成签到 ,获得积分10
4秒前
二千完成签到 ,获得积分10
6秒前
斯文尔珍完成签到,获得积分10
7秒前
秋秋完成签到,获得积分10
8秒前
Lucas的应助被山海采纳,获得10
8秒前
科研通AI6.4的应助被starrism采纳,获得10
8秒前
科研通AI6.4的应助被Dyying采纳,获得10
10秒前
良蒙完成签到 ,获得积分10
10秒前
感动的白梅完成签到 ,获得积分10
10秒前
Rs完成签到,获得积分10
13秒前
14秒前
Owen的应助被DW采纳,获得10
15秒前
今我来思完成签到 ,获得积分10
15秒前
赵绡洁发布了新的文献求助10
15秒前
米诺发布了新的文献求助10
15秒前
LSQ完成签到,获得积分10
17秒前
传奇3的应助被无聊的寒香采纳,获得10
17秒前
蓝桉完成签到 ,获得积分10
18秒前
五嶽完成签到 ,获得积分10
19秒前
21秒前
共享精神的应助被vc采纳,获得10
21秒前
orixero的应助被nancyruoxi采纳,获得30
22秒前
23秒前
23秒前
端庄的香薇完成签到,获得积分10
23秒前
陈博士发布了新的文献求助10
24秒前
24秒前
25秒前
一丁雨完成签到,获得积分10
25秒前
合适山灵完成签到,获得积分10
26秒前
米诺完成签到,获得积分10
26秒前
27秒前
一丁雨发布了新的文献求助10
27秒前
Maestro_S的应助被DW采纳,获得30
28秒前
白晓涵完成签到 ,获得积分10
28秒前
山海发布了新的文献求助10
29秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8184889
求助须知:如何正确求助?哪些是违规求助? 9573836
关于积分的说明 21833242
捐赠科研通 7782263
什么是DOI,文献DOI怎么找? 3434429
关于科研通互助平台的介绍 2558581
邀请新用户注册赠送积分活动 2481082