跳到正文
SGSteven Guan

原子概念 / Trajectory Diagnosis

执行轨迹、循环与故障归因

观察重复调用、预算、遗漏、取消传播与压缩后的约束保留,并用消融实验定位瓶颈。

要解决的问题怎样定位失败来自证据、推理、工具还是控制循环?

检索别名:执行轨迹 · 循环 · 故障归因

BLUEPRINT局部蓝图

01 输入

  1. 逐步事件和工具结果
  2. 预算停止及取消记录
  3. 证据替换对照
→

02 处理机制

  1. 定位无信息增益循环
  2. 区分证据推理及控制故障
  3. 用gold retrieval做消融
  4. 汇总多Agent冲突及费
→

03 输出与证据

  1. 根因和修复候选
  2. 循环停止及资源报告

轨迹帮助解释为什么失败

最终答案只显示结尾,无法说明Agent是否反复搜索、遗漏要求、使用过期证据或靠超额预算才完成。轨迹评测保存每次模型调用、工具参数与结果、状态变化、任务修订和费用;不需要取得私有思维链。先从可观察事件寻找问题,再决定是否需要更强模型或不同控制逻辑。

观察必要约束与进展

测无信息增益的重复调用、相同候选反复生成、验收项长期不减少、过早宣布完成、缺失tool result、取消后继续执行、压缩后丢失否定条件,以及子Agent重复或冲突。必要顺序由合同规定,例如审批必须先于发送;研究过程不应被固定成唯一脚本。记录关键路径时间,不能仅以更多并发调用判断效率更高。

用反事实和消融定位瓶颈

固定模型、任务和预算,给gold retrieval后若成功恢复,优先修检索;替换正确工具结果后恢复,检查连接器或接口;关掉memory反而变好,检查污染和召回;删去旧prompt补丁后变好,说明harness假设可能已过时。每次只改可解释的一类因素,再用未参与调参的任务检查泛化。

将发现转成可修复问题

失败分类可区分输入歧义、证据缺失、工具接口、计划选择、状态持久化、权限、验证器和基础设施。一个trial可能有主因与次因,保留证据和人工裁决,避免由模型自动写一句根因后直接训练。轨迹评分用于解释和改进,不宜奖励冗长推理或惩罚简短合法路径。能力提升最后仍由业务终态与成本验证。

用反事实缩小根因范围

保持模型和任务不变,先替换正确检索证据,再替换规范工具响应,最后对比有无额外计划步骤。若正确证据立刻消除错误,优先修检索而非训练;若工具返回过长导致关键字段被忽略,则改呈现和上下文预算。轨迹审查关注可见动作和结果,不要求暴露私有思维链。多Agent记录父子任务、共享资源和产物版本,才能找到谁覆盖了谁,以及并行是否真正减少关键路径时间。

RELATIONSHIP MAP

与其他节点的关系

箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。

哪些节点指向本页 · 1

PRIMARY SOURCES

来源与阅读边界

来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。

  1. Anthropic:Demystifying evals for AI agents ↗官方文档 / 声明

    2026-01-09;官方方法背景,具体合同与阈值须按业务验证。