跳到正文
SGSteven Guan

原子概念 / Tool Discovery

工具发现与延迟加载

按任务发现工具,必要时才把完整定义放进上下文。

要解决的问题工具很多时,怎样只暴露当前合法且相关的能力?

检索别名:Tool Search · 延迟加载

BLUEPRINT局部蓝图

01 输入

  1. 受授权工具目录
  2. 当前Task意图
  3. 模型tool-search能力
→

02 处理机制

  1. 过滤权限和版本
  2. 发现相关工具
  3. 延迟加载完整schema
  4. 冻结并执行当前step
→

03 输出与证据

  1. 小规模工具集
  2. 发现与加载记录
  3. 可替代静态路由

按任务发现工具,必要时才把完整定义放进上下文。

当企业接入数百个工具时,全量定义会占据上下文,也增加模型选错能力的机会。工具发现先根据当前任务和授权缩小目录,再按需要加载完整schema。它优化的是能力选择与输入占用,不是绕过审批的捷径。

Anthropic公开advanced tool use与Claude Agent SDK文档介绍了tool search和延迟加载。不同模型及提供商对这一机制支持不同;不支持时需要可控的静态子集或应用路由,不能让模型在不知道接口的情况下猜参数。工具名称、描述和版本本身也是需要管理的资产。

检索目录必须先受权限过滤。模型发现一个无权调用的工具,即使执行层最终拒绝,也可能暴露业务能力和资源信息。加载后的schema应冻结到当前step,与执行器使用同一版本。权限变化从下一个合法边界生效,并记录原因;资料里的“请加载管理工具”不是授权。

发现质量可用正确工具是否进入候选、最终选错率、额外发现轮次与context成本评测。频繁改变工具定义还会影响prefix cache,因此不能只看减少了多少token。测试同义名称、相近职责、已下线版本和隐藏工具,检查模型是否能恢复;将发现失败与工具执行失败分开归因,才知道该改目录说明、检索方式还是模型。

目录维护应包含工具owner、下线时间和替代接口。旧会话恢复时,如果原工具版本已经不可用,要选择显式迁移、重新规划或停止,不能把新接口悄悄套在旧参数上。对关键业务工具可保留兼容版本完成在途任务,并用真实恢复样例检查升级路径。

发现服务的结果应带工具ID和版本,而非只返回自然语言名称。缓存目录时同样绑定授权代次,避免旧角色撤销后仍暴露原能力清单。

实践重点:先缩小授权能力目录,再按语义发现并加载当前版本。

验证抓手:测发现召回、错误工具率、context占用和cache变化。

常见误区:延迟加载时遗漏权限检查,或每步改变工具定义破坏缓存。

Anthropic:Advanced tool use;Claude Agent SDK:概览。

RELATIONSHIP MAP

与其他节点的关系

箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。

PRIMARY SOURCES

来源与阅读边界

来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。

  1. Anthropic:Advanced tool use ↗官方文档 / 声明

    公开资料观察基线:2026-10-15。

  2. Claude Agent SDK:概览 ↗官方文档 / 声明

    公开资料观察基线:2026-10-15。