Using reinforcement learning models in social neuroscience: frameworks, pitfalls and suggestions of best practices

强化学习 神经影像学 社会神经科学 功能磁共振成像 认知神经科学 人工智能 心理学 认知科学 神经功能成像 计算机科学 机器学习 认知 认知心理学 结果(博弈论) 神经科学 社会认知 数学 数理经济学
作者
Lei Zhang,Lukas Lengersdorff,Nace Mikuš,Jan Gläscher,Claus Lamm
出处
期刊:Social Cognitive and Affective Neuroscience [University of Oxford]
卷期号:15 (6): 695-707 被引量:131
标识
DOI:10.1093/scan/nsaa089
摘要

Abstract The recent years have witnessed a dramatic increase in the use of reinforcement learning (RL) models in social, cognitive and affective neuroscience. This approach, in combination with neuroimaging techniques such as functional magnetic resonance imaging, enables quantitative investigations into latent mechanistic processes. However, increased use of relatively complex computational approaches has led to potential misconceptions and imprecise interpretations. Here, we present a comprehensive framework for the examination of (social) decision-making with the simple Rescorla–Wagner RL model. We discuss common pitfalls in its application and provide practical suggestions. First, with simulation, we unpack the functional role of the learning rate and pinpoint what could easily go wrong when interpreting differences in the learning rate. Then, we discuss the inevitable collinearity between outcome and prediction error in RL models and provide suggestions of how to justify whether the observed neural activation is related to the prediction error rather than outcome valence. Finally, we suggest posterior predictive check is a crucial step after model comparison, and we articulate employing hierarchical modeling for parameter estimation. We aim to provide simple and scalable explanations and practical guidelines for employing RL models to assist both beginners and advanced users in better implementing and interpreting their model-based analyses.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
1秒前
偏偏意气用事完成签到,获得积分10
1秒前
223311发布了新的文献求助10
1秒前
1秒前
称心凡完成签到,获得积分10
1秒前
Jane发布了新的文献求助10
2秒前
2秒前
2秒前
讨厌鬼完成签到,获得积分10
2秒前
bkagyin应助ZHEN采纳,获得10
2秒前
2秒前
3秒前
3秒前
活泼忆丹完成签到 ,获得积分10
3秒前
3秒前
mmm完成签到,获得积分20
4秒前
4秒前
天真的完成签到,获得积分10
4秒前
收敛.完成签到 ,获得积分10
4秒前
5秒前
十二发布了新的文献求助20
5秒前
lulu发布了新的文献求助10
5秒前
足乐发布了新的文献求助10
5秒前
任性行天完成签到,获得积分10
5秒前
甜美翠安发布了新的文献求助10
6秒前
6秒前
liuzengzhang666完成签到,获得积分10
6秒前
YanZhe完成签到,获得积分10
6秒前
7秒前
7秒前
爱科研完成签到,获得积分20
7秒前
HH发布了新的文献求助10
8秒前
8秒前
怡然蜻蜓完成签到,获得积分10
8秒前
8秒前
8秒前
科研通AI2S应助田学涛采纳,获得10
8秒前
molihuakai应助Neruuuuu采纳,获得10
8秒前
8秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Picture this! Including first nations fiction picture books in school library collections 2000
The Cambridge History of China: Volume 4, Sui and T'ang China, 589–906 AD, Part Two 1500
Cowries - A Guide to the Gastropod Family Cypraeidae 1200
Quality by Design - An Indispensable Approach to Accelerate Biopharmaceutical Product Development 800
Pulse width control of a 3-phase inverter with non sinusoidal phase voltages 777
ON THE THEORY OF BIRATIONAL BLOWING-UP 666
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 工程类 有机化学 化学工程 生物化学 计算机科学 物理 内科学 复合材料 催化作用 物理化学 光电子学 电极 细胞生物学 基因 无机化学
热门帖子
关注 科研通微信公众号,转发送积分 6392301
求助须知:如何正确求助?哪些是违规求助? 8207711
关于积分的说明 17374012
捐赠科研通 5445751
什么是DOI,文献DOI怎么找? 2879168
邀请新用户注册赠送积分活动 1855597
关于科研通互助平台的介绍 1698592