原子概念 / Model Failover
模型故障切换
在模型服务失败时使用获准的替代路径。
检索别名:故障切换 · Fallback
01 输入
- 供应商故障信息
- 备用模型资格
- 可移植任务状态
02 处理机制
- 分类故障与等待价值
- 核验数据及功能资格
- 重建context并核对效果
- 切换或明确降级
03 输出与证据
- 获准备用执行
- 状态兼容记录
- 降级与排队说明
在模型服务失败时使用获准的替代路径。
故障切换应保持任务合同,而不只是恢复一个HTTP响应。供应商不可用时,备用模型必须有权处理相同数据,具备所需工具和输出能力,并能接受可移植上下文。若不满足,应排队、返回部分结果或明确降级,不能静默发送到未批准端点。
不同模型不共享隐式推理和原生compaction状态。Codex公开异步压缩代码将结果绑定模型、历史版本和授权代次,说明状态兼容性本身需要协议。跨供应商切换通常要从任务状态、已确认工具结果、证据和用户限制重建context,而不是复制一个opaque token继续。
切换前检查外部动作状态。原请求断流时,模型或工具可能已经产生部分结果;备用模型应知道哪些操作已提交、哪些未知。重复完整请求可能重新执行副作用。稳定业务ID和read-back仍然有效,换模型不能成为创建新动作身份的理由。
路由策略还需处理错误分类。短暂429可能等待更经济,持续故障才切换;权限或数据驻留不合格不能靠fallback解决;备用服务自身配额也有限。熔断、恢复探测和切回应有节制,避免故障期间反复摇摆并破坏缓存。
验证不应只关掉主模型看备用是否回答。应测试同类数据资格、schema差异、长上下文、并行工具、拒绝与取消,并核对费用和外部效果。关键领域可选择只允许新Task使用备用模型,在途高风险Task暂停等待确认。
向用户说明降级影响,例如来源覆盖减少、响应延后或某项计算尚未完成。故障恢复的目标是维持可解释可靠性,不能为了隐藏服务异常而输出未经同等验证的结论。
切回主模型也属于变更,不能自动复用备用模型的opaque上下文。应记录切换点,并核对待执行动作。
实践重点:备选具备同类数据处理资格、schema和verifier;否则排队或降级。
验证抓手:模拟供应商故障,验证数据合同和上下文重建。
常见误区:静默送往未批准供应商,或迁移opaque推理状态。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
哪些节点指向本页 · 1
- 分任务SLO与错误预算 — 约束 → 模型故障切换
回退必须满足任务与数据约束。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- OpenAI:Agent运行时选择 ↗官方文档 / 声明
观察基线:2026-10-15;具体模型、版本和部署能力需分别核验。
- Codex:异步压缩兼容性源码 ↗公开代码
观察基线:2026-10-15;具体模型、版本和部署能力需分别核验。