From evaluation to emulation: LLMs as agents of iterative pedagogical design

形成性评价 印为红字的 一致性(知识库) 教育技术 计算机科学 同行反馈 位于 数学教育 终结性评价 班级(哲学) 心理学 主动学习(机器学习) 科学教育 教育评估 工程教育 学业成绩 电子投票 精英 教学设计 社会技术系统 自我效能感 学习评价 教学方法 风险学生 高等教育
作者
Osman Yaşar,Andriy Kashyrskyy,Charles Xie,Dylan Bulseco
出处
期刊:International Journal of Artificial Intelligence in Education [Springer Science+Business Media]
卷期号:36 (1-2): 100013-100013
标识
DOI:10.1016/j.ijaied.2026.100013
摘要

Large language models (LLMs) have shown potential not only as content generators but as evaluators capable of providing nuanced feedback. However, much of the current application of LLMs in education treats them as static graders rather than dynamic participants in formative assessment processes. This study explores how rubric-guided prompting and role-aware feedback simulations can enable LLMs to approximate human evaluative reasoning across dimensions critical to design-based learning. Using situated learning theory, iterative design pedagogy, and cognitive models of scientific and engineering thinking, the research developed a framework wherein LLMs were trained to align with expert judgment. A stratified sample of student design artifacts was evaluated across different roles (instructor, peer reviewer, grant reviewer) using targeted prompting. Feedback outputs were coded for tone and evaluation focus. Rubric engineering was found to substantially improve LLM-human agreement in cognitively complex categories. LLMs demonstrated role-sensitive feedback variation, and final rubric-tuned LLM ratings achieved high consistency with human ratings (Cronbach’s Alpha > 0.75). Figures and tables illustrate how role-specific emphasis and tone were reliably modulated. When properly scaffolded, LLMs can serve as dynamic co-evaluators and rubric co-design partners. These findings advance the use of AI from automation to pedagogical emulation, offering scalable, reflective feedback ecosystems for design-rich learning environments.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
刚刚
慕青应助wzwz采纳,获得10
刚刚
刚刚
1秒前
dan1029发布了新的文献求助20
1秒前
1秒前
小杰完成签到,获得积分10
1秒前
香蕉觅云应助王文机采纳,获得10
2秒前
liarliar38完成签到,获得积分10
2秒前
4秒前
BigStar发布了新的文献求助50
4秒前
xz完成签到,获得积分20
5秒前
5秒前
5秒前
Cici发布了新的文献求助10
7秒前
doudou完成签到,获得积分10
7秒前
lucia完成签到,获得积分10
7秒前
7秒前
核桃发布了新的文献求助10
8秒前
领导范儿应助黄耀采纳,获得10
10秒前
周娅敏发布了新的文献求助10
10秒前
NexusExplorer应助IchenNG采纳,获得30
10秒前
梦里又何妨完成签到,获得积分10
11秒前
D33sama完成签到,获得积分10
12秒前
论文工厂完成签到,获得积分10
14秒前
华仔应助111采纳,获得10
14秒前
失眠的霸完成签到,获得积分10
15秒前
15秒前
Ayali完成签到,获得积分10
15秒前
LiXF完成签到,获得积分10
16秒前
科研通AI6.4应助Lily采纳,获得10
17秒前
懵懂的梦山完成签到,获得积分10
17秒前
英俊的铭应助好卉采纳,获得10
18秒前
18秒前
bbihk完成签到,获得积分10
20秒前
搜集达人应助周娅敏采纳,获得10
20秒前
22秒前
852应助cjl采纳,获得10
22秒前
WZM完成签到,获得积分10
22秒前
黄耀发布了新的文献求助10
23秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Rosenblum, Global Change Biology 800
Essentials of Carbohydrate Chemistry and Biochemistry, 4th Edition 800
Organizational Behavior 510
Management and the Arts 510
Matrix Methods in Data Mining and Pattern Recognition Second Edition 510
CLSI VET01S-2024 Performance Standards for Antimicrobial Disk and Dilution Susceptibility Tests for Bacteria Isolated From Animals (7th Ed) 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 化学工程 工程类 有机化学 物理 复合材料 生物化学 内科学 细胞生物学 基因 遗传学 免疫学 冶金 光电子学 癌症研究
热门帖子
关注 科研通微信公众号,转发送积分 7774051
求助须知:如何正确求助?哪些是违规求助? 9316027
关于积分的说明 20349003
捐赠科研通 7359780
什么是DOI,文献DOI怎么找? 3317334
关于科研通互助平台的介绍 2465859
邀请新用户注册赠送积分活动 2332577