Preparing AI chatbots to respond to patient distress and suicidality in high-risk healthcare settings

医学 医疗保健 苦恼 医疗急救 精神科 数字健康 聊天机器人 心理学 病人护理 护理部 远程医疗 梅德林 卫生专业人员 健康 萧条(经济学) 背景(考古学) 毒物控制 患者隐私 心理保健
作者
Joanna Mayers Streck,Dallas T. Swendeman,Warren Scott Comulada,Yun Xian Ho,Julia Cannistraro,Gladys N. Pachas,Danielle K. Bäck,Wei Sum Li,Jonathan L. Jackson,Delta-Marie Lewis,Namrata Tomar,David Warren,Douglas E. Levy,Lillian Gelberg
出处
期刊:npj digital medicine [Nature Portfolio]
卷期号:9 (1) 被引量:1
标识
DOI:10.1038/s41746-026-03288-9
摘要

Generative artificial intelligence (AI) chatbots are rapidly proliferating for behavioral health support by individual users independently and within healthcare settings. AI chatbots leverage large language models (or LLMs) that use natural language processing, machine learning, and deep learning to simulate human-like conversations, which respond to users’ input in real-time 1 . On-demand chatbot availability when human clinicians are not available, coupled with LLMs’ improving abilities to simulate behavioral health support, has brought increased attention to how this technology can support users, including patients with behavioral health needs, as tools embedded in clinical settings, while also reducing clinician burden and helping address mental healthcare access gaps 2 , 3 , 4 . Patients also report beliefs that conventional behavioral treatments are ineffective, and perceive digital health tools as safe and non-judgmental 2 , 5 . However, there are numerous risks associated with AI chatbots, including a lack of risk monitoring and human support linkages, variability in responses to similar user messages, and provision of inaccurate/harmful advice (e.g., “AI hallucinations”). Several highly publicized suicides and adverse events have occurred following human interactions with AI chatbots, encouraging or instructing harm 6 , 7 .
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
jianjian发布了新的文献求助50
刚刚
22x发布了新的文献求助10
1秒前
风光无限发布了新的文献求助10
2秒前
冰里的冰红茶完成签到,获得积分10
2秒前
nandiaozhimu发布了新的文献求助10
2秒前
西溪发布了新的文献求助10
2秒前
科研狗灰灰完成签到,获得积分10
3秒前
kk完成签到,获得积分10
3秒前
HH完成签到 ,获得积分10
4秒前
5秒前
丘比特的应助被程风破浪采纳,获得10
5秒前
und发布了新的文献求助50
6秒前
6秒前
明天剪纸发布了新的文献求助10
6秒前
万能图书馆的应助被22x采纳,获得10
7秒前
7秒前
月见黑完成签到,获得积分10
7秒前
8秒前
豆豆完成签到,获得积分10
8秒前
归尘发布了新的文献求助10
9秒前
10秒前
nandiaozhimu完成签到,获得积分10
10秒前
10秒前
11秒前
羔羔羊发布了新的文献求助10
11秒前
心心子完成签到 ,获得积分10
11秒前
11秒前
苹果大王完成签到 ,获得积分10
12秒前
12秒前
12秒前
12秒前
冠心没有病完成签到,获得积分10
15秒前
whoare发布了新的文献求助10
15秒前
17秒前
小二郎的应助被呆小仙采纳,获得10
18秒前
科研通AI6.2的应助被SJJ采纳,获得10
18秒前
xx发布了新的文献求助10
19秒前
脑洞疼的应助被xueee采纳,获得10
19秒前
曾许京城第一流完成签到,获得积分10
20秒前
科研通AI6.2的应助被Aniya采纳,获得10
21秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1500
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology)求助 1000
Encyclopedia of Modern Artificial Intelligence 1000
John McDowells Bildungstheorie 800
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
Synthesis, Application and Future Perspectives of Smart Nano-materials - Part 1 400
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8153509
求助须知:如何正确求助?哪些是违规求助? 9550216
关于积分的说明 21697167
捐赠科研通 7742065
什么是DOI,文献DOI怎么找? 3425525
关于科研通互助平台的介绍 2550636
邀请新用户注册赠送积分活动 2469175