原子概念 / Model Routing
模型路由
按任务风险、复杂度、时限与数据范围选择模型。
检索别名:模型路由 · Router
01 输入
- 任务风险和复杂度
- 获准模型能力矩阵
- Deadline与成本目标
02 处理机制
- 筛选数据和功能资格
- 按任务规则选模型
- 记录升级及理由
- 用实际结果评估路由
03 输出与证据
- 模型选择决定
- 质量与费用轨迹
- 可解释降级路径
按任务风险、复杂度、时限与数据范围选择模型。
路由把任务分配给适当模型,是一个会影响质量的决策系统。输入可以包括任务类型、风险、复杂度、数据敏感性、上下文大小、deadline与成本。建议先采用可解释的确定性规则,再根据真实失败数据评估学习型router,避免一开始增加难以归因的模型决策层。
先做资格筛选,再做成本与能力选择。某模型可能响应很快,却不能接收客户保密资料,或不支持必要工具;它不应进入候选集合。金融算术可以交确定性代码,快速分类、压缩、生成和judge可以各用不同模型,但每个角色都需要独立版本和质量记录。
选择指标应是通过验收的完整任务成本,而非输入token单价。便宜模型若需要更多循环、搜索、重试和人工返工,可能更贵;高档模型也不必用于所有步骤。路由要记录选择理由、实际调用、后续升级与最终质量,使团队知道难任务是否被错误送给低能力路径。
可设有限升级机制:低成本路径在证据不足、结构错误或无进展时,转到获准高档模型;升级仍受剩余预算和数据合同约束。不能无限来回切换,更不能把judge分数低直接解释为模型不够强,忽略检索或工具缺陷。
评估要按任务和风险分层,尤其检查错分到便宜模型的严重错误。线上比较保留冷缓存、供应商配额和人工接管影响,不把某一时段低延迟当长期优势。路由模型本身升级时也需要回归。
对业务方可展示策略而非所有内部细节,例如普通材料先走标准路径,明确高风险或复杂问题进入专家路径。策略必须能解释何时降级、排队和停止;不应为了完成率而把未批准供应商静默加入。
实践重点:先做确定性规则;记录理由与质量,再评估学习型router。
验证抓手:评测路由误分、尾延迟和有效结果成本。
常见误区:便宜模型多循环和人工返工反而更贵。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
哪些节点指向本页 · 2
- 云端数据合同与日志治理 — 约束 → 模型路由
模型路由必须遵守数据资格。
- 推理与行动预算 — 依赖 → 模型路由
本节点的设计需要先明确模型路由。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- OpenAI:模型目录 ↗官方文档 / 声明
观察基线:2026-10-15;具体模型、版本和部署能力需分别核验。
- OpenAI Agents SDK:模型与provider ↗官方文档 / 声明
观察基线:2026-10-15;具体模型、版本和部署能力需分别核验。