清晨好,您是今天最早来到科研通的研友!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您科研之路漫漫前行!

From Intent to Evidence: A Categorical Approach for Structural Evaluation of Deep Research Agents

作者
Shuoling Liu,Zhiquan Tan,Kun Yi,Hui Wu,Yihan Li,Jiangpeng Yan,Liyuan Chen,Kai Chen,Qiang Yang
出处
期刊:Cornell University - arXiv [Cornell University]
标识
DOI:10.48550/arxiv.2603.25342
摘要

Deep Research Agents (DRAs) aim to answer complex questions by searching the web, checking evidence, and synthesizing conclusions across heterogeneous sources. We introduce a category-theoretic framework for evaluating and improving such agents. The framework treats deep research as a structured mapping from user intent to evidence-grounded conclusions, making retrieval traces, cross-source alignment, and final synthesis explicit. Guided by this view, we derive a mechanism-aware benchmark of 296 bilingual questions. The benchmark targets four structural skills central to real research: following multi-hop evidence chains, verifying claims across sources, re-ordering fragmented information, and rejecting unsupported assumptions. We evaluate 16 frontier systems with human verification and find that these structural tasks remain highly challenging: the best system reaches only 19.9% average accuracy. The results show that strong agents can sometimes reorganize evidence and detect false premises, but still struggle with long-horizon synthesis and intersection-heavy verification. Beyond evaluation, the same theory also leads to practical system improvements. We instantiate theory-guided interventions such as tracked search, which preserves retrieval traces, and category tools, which add explicit verification and synthesis steps. These interventions yield measurable gains in API-based deep research systems. Our work therefore provides both a challenging benchmark and concrete design guidance for building more reliable research agents.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
HuiLang的应助被GWQ采纳,获得10
2秒前
快乐友儿完成签到,获得积分10
18秒前
夏至完成签到 ,获得积分10
19秒前
失眠紫完成签到,获得积分10
25秒前
淡然的代灵完成签到,获得积分10
32秒前
LL完成签到 ,获得积分10
39秒前
畅快天空完成签到,获得积分10
42秒前
MOREMO完成签到,获得积分10
44秒前
机灵怀蝶完成签到,获得积分10
50秒前
Bill02完成签到 ,获得积分10
53秒前
Ava的应助被我亦化身东海去采纳,获得10
56秒前
虎子完成签到 ,获得积分10
1分钟前
1分钟前
369ninja发布了新的文献求助10
1分钟前
1分钟前
KalEl发布了新的文献求助10
1分钟前
画龙点睛完成签到 ,获得积分10
1分钟前
幸福一江完成签到,获得积分10
1分钟前
笨笨完成签到 ,获得积分10
1分钟前
贾贡献完成签到,获得积分10
1分钟前
arniu2008的应助被科研通管家采纳,获得30
1分钟前
大个的应助被科研通管家采纳,获得10
1分钟前
1分钟前
清脆乘云完成签到,获得积分10
1分钟前
神勇的天问完成签到 ,获得积分10
1分钟前
漂亮的颤完成签到,获得积分10
1分钟前
369ninja发布了新的文献求助10
1分钟前
PXX完成签到,获得积分10
2分钟前
安静的代曼完成签到,获得积分10
2分钟前
杉寒完成签到,获得积分10
2分钟前
metoo完成签到,获得积分10
2分钟前
2分钟前
大方定帮完成签到,获得积分10
2分钟前
2分钟前
干净寄松完成签到,获得积分10
2分钟前
铜豌豆完成签到 ,获得积分10
2分钟前
2分钟前
flb1227完成签到 ,获得积分10
2分钟前
2分钟前
WW完成签到 ,获得积分10
2分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Energie-Contracting 1500
Klimaschutzrecht durch den Energiesektor im Mehrebenensystem – Ein Rechtsvergleich 1000
Oncology Clinical Trials: Successful Design, Conduct, and Analysis, Second Edition 800
Sustainable Engineered Micro/Nanofibers and Hybrid Nanocomposites for Environmental Remediation 400
Ecotourism 400
Liquidus diagram and viscosity estimation in pseudo-binary system Li2B6O10–LiF 300
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8076014
求助须知:如何正确求助?哪些是违规求助? 9494117
关于积分的说明 21378129
捐赠科研通 7643895
什么是DOI,文献DOI怎么找? 3399987
关于科研通互助平台的介绍 2529715
邀请新用户注册赠送积分活动 2438662