原子概念 / Trajectory Diagnosis
执行轨迹、循环与故障归因
观察重复调用、预算、遗漏、取消传播与压缩后的约束保留,并用消融实验定位瓶颈。
检索别名:执行轨迹 · 循环 · 故障归因
01 输入
- 逐步事件和工具结果
- 预算停止及取消记录
- 证据替换对照
02 处理机制
- 定位无信息增益循环
- 区分证据推理及控制故障
- 用gold retrieval做消融
- 汇总多Agent冲突及费
03 输出与证据
- 根因和修复候选
- 循环停止及资源报告
轨迹帮助解释为什么失败
最终答案只显示结尾,无法说明Agent是否反复搜索、遗漏要求、使用过期证据或靠超额预算才完成。轨迹评测保存每次模型调用、工具参数与结果、状态变化、任务修订和费用;不需要取得私有思维链。先从可观察事件寻找问题,再决定是否需要更强模型或不同控制逻辑。
观察必要约束与进展
测无信息增益的重复调用、相同候选反复生成、验收项长期不减少、过早宣布完成、缺失tool result、取消后继续执行、压缩后丢失否定条件,以及子Agent重复或冲突。必要顺序由合同规定,例如审批必须先于发送;研究过程不应被固定成唯一脚本。记录关键路径时间,不能仅以更多并发调用判断效率更高。
用反事实和消融定位瓶颈
固定模型、任务和预算,给gold retrieval后若成功恢复,优先修检索;替换正确工具结果后恢复,检查连接器或接口;关掉memory反而变好,检查污染和召回;删去旧prompt补丁后变好,说明harness假设可能已过时。每次只改可解释的一类因素,再用未参与调参的任务检查泛化。
将发现转成可修复问题
失败分类可区分输入歧义、证据缺失、工具接口、计划选择、状态持久化、权限、验证器和基础设施。一个trial可能有主因与次因,保留证据和人工裁决,避免由模型自动写一句根因后直接训练。轨迹评分用于解释和改进,不宜奖励冗长推理或惩罚简短合法路径。能力提升最后仍由业务终态与成本验证。
用反事实缩小根因范围
保持模型和任务不变,先替换正确检索证据,再替换规范工具响应,最后对比有无额外计划步骤。若正确证据立刻消除错误,优先修检索而非训练;若工具返回过长导致关键字段被忽略,则改呈现和上下文预算。轨迹审查关注可见动作和结果,不要求暴露私有思维链。多Agent记录父子任务、共享资源和产物版本,才能找到谁覆盖了谁,以及并行是否真正减少关键路径时间。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
哪些节点指向本页 · 1
- 先定位瓶颈再选学习方式 — 依赖 → 执行轨迹、循环与故障归因
学习方法由失败根因决定。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- Anthropic:Demystifying evals for AI agents ↗官方文档 / 声明
2026-01-09;官方方法背景,具体合同与阈值须按业务验证。