原子概念 / Incident recovery runbooks
故障止损与恢复手册
把告警转为具体止损、对账、恢复与重新验收动作。
检索别名:Runbook · 事故响应 · 降级恢复
01 输入
- 告警与受影响Task/Run
- 当前发布和外部操作身份
02 处理机制
- 限制新增效果并确定影响范围
- 核查权威状态与数据血缘
- 按手册恢复并重跑门禁
03 输出与证据
- 外部状态对账回执
- 恢复报告与回归案例
手册是一份动作合同
每类事故指定触发条件、owner、影响范围、允许止损动作、恢复前置和完成证据。记录Task/Run、发布版本、来源及外部操作身份。告警看板只定位症状,不能替代手册;也不要让处理事故的Agent自由扩大权限。
按故障边界止损
模型不可用或限流时停止无上限重试,按截止时间排队;回退模型先检查能力和数据资格。索引落后时披露资料时间,必要时切回权威数据或暂停依赖新鲜度的回答。验证器不可用时保留候选,不把“检查服务失败”转为“结果通过”。
外部工具效果未知时固定operation_id,停止自动重放,查询目标权威状态或进入人工对账。取消Run只阻止后续动作,已发生效果需单独确认或补偿。撤权时沿来源血缘失效上下文、子任务和待交付产物;记忆投毒时隔离受影响scope与写入版本,保留取证引用,恢复到经审查状态后重测。
恢复要证明什么
分别确认服务恢复、数据追平、无重复外部效果、权限有效和产物重新验证。每个恢复报告绑定实际状态与检查时间,不能只写“worker已重启”。如回滚模型但保留了受污染记忆,或回滚代码却无法读取在途checkpoint,系统仍未恢复。
演练与复盘
在测试环境注入限流、丢回调、旧worker复活、索引延迟和恶意记忆。检查告警路由、人工等待、对账结果及回滚可执行性。复盘区分触发原因、放大路径与缺失控制,将可复现失败进入回归集;失败轨迹作为诊断材料,不直接当作SFT正样本。上述是参考手册结构,具体阈值与责任人必须由部署方根据任务风险和实际运行证据设定。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
结果未知与对账
恢复未知副作用前先对账外部状态。
依赖 →撤权、删除与在途影响
数据或权限事故沿血缘定位在途影响。
依赖 →完整AgentRelease与状态回滚
恢复需兼容完整版本与持久状态。
依赖 →Trial快照与可重放实验
可复现故障进入明确初态的回归试验。
哪些节点指向本页 · 1
- 实施、观测与可靠性 — 互补 → 故障止损与恢复手册
SLO和观测发现异常后需要可执行的止损与恢复动作。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- OpenTelemetry:GenAI运行观测约定 ↗公开代码
- Anthropic:Agent评测与故障诊断 ↗官方文档 / 声明