原子概念 / Shadow Evaluation
Shadow运行与无副作用比较
在脱敏真实流量上运行候选,禁止真实写动作,观察分布、检索、质量与性能代理信号。
检索别名:影子流量 · 镜像 · 隔离
01 输入
- 生产任务授权副本
- 隔离候选release
- 只读或模拟写工具
02 处理机制
- 脱敏复制输入分布
- 阻断真实业务提交
- 比终态错误和资源
- 定位离线覆盖缺口
03 输出与证据
- 真实分布比较报告
- 灰度前缺口与新增case
在真实分布上旁路观察
Shadow将有使用资格的生产事件复制给候选Agent,使其经历更真实的数据格式、长尾问题和依赖延迟。它适合在不改变用户结果的前提下比较取证、调用、产物和费用。复制前核用途、权限、保留和去标识,候选应取得与原请求一致且不扩大的数据scope。
写操作必须隔离
禁用真实发送、购买、删除和业务更新,把候选写动作送到模拟器、快照或独立测试租户。仅在prompt里写“不要真正执行”不是可靠隔离。保留拟执行参数、权限决策和可验证的模拟终态,以便发现危险动作;不要把因为写工具完全不可用而失败的结果,与真实版本不加说明地比较。
保持可比,也暴露分布差距
对同一事件关联control和candidate trace,记录模型、数据快照、工具、memory初态、资源、时间与成本。真实流量可能包含离线集没有的用户简称、跨设备上下文、权限边界和冷启动;将这些差距转为新case。候选不能把shadow得到的私人memory写回生产,避免改变后续control行为。
明确能回答和不能回答的问题
Shadow可以发现质量、检索与性能代理指标,却不能直接证明学生学习提升、投资收益或真实外部动作的履行效果。也不能替代canary下的用户行为与交付验证。预设观察窗口、严重错误门槛和进入下一阶段的条件;样本不足时保留不确定性。输出应包含差异、证据、失败分布和剩余风险,而非一个笼统“影子测试已通过”。
影子状态需要独立生命周期
候选运行使用隔离数据库或受控快照,写入记忆、发送邮件和生成外部订单等都必须被阻断或替换。即便工具名称标为只读,也要核实服务实际是否修改访问状态或触发回调。保存候选应当提交的意图,与正式版本的真实结果比较,但不把模拟成功写成真实履约。影子样本也可能包含私人数据,应继承原访问与保留资格;其结论是发现分布差距,而非证明生产干预带来的因果收益。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
哪些节点指向本页 · 1
- Canary灰度与线上实验 — 依赖 → Shadow运行与无副作用比较
先隔离比较,再开放受控真实动作。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- Anthropic:Agent evaluations ↗官方文档 / 声明
官方方法背景;业务阈值与统计合同需独立验证。