AI Engineer World's Fair 2026

Why Agentic Systems Need Ontologies

Frank Coyle · UC Berkeley

2026-07-23 · 21分钟 · 53 万次观看 · AI Engineer

神经符号做法:内部用概率模型推理,外部用本体(实体、关系、约束,RDFS/OWL)做逻辑护栏;Pydantic 只管类型,本体管业务语义,副作用要等通过语义校验才提交。

观看原视频 ↗

内容概要

Coyle 认为大多数 agent 失败(脆弱的工具、易断的交接)来自缺少形式化本体。本体是对运行环境的形式化、共享的概念化:实体、属性、关系,用图结构表示便于随领域演进,比关系型 schema 更灵活。可以自上而下由领域专家定义核心概念(采购单、客户、客服代表),也可以自下而上从客户交互中发现新实体。RDFS/OWL 提供推理与约束:如果「教」关系的定义域是教师,那么「Bob 教 Scooter」就能推出 Bob 是教师,进而是人。在 agent 循环里,模型只提议工具调用和参数,由应用执行;结果要先通过 Pydantic 的结构校验,再用本体做语义校验(重复退款、付错对象、非法状态值),不一致就回给模型或升级给人,并在校验通过前不产生任何副作用。

幻灯片截图

本体 = 实体 + 属性 + 关系,用图结构存储便于在领域演化时追加属性和关系;关系型 schema 遇到新信息时往往要改结构。
4:20 本体 = 实体 + 属性 + 关系,用图结构存储便于在领域演化时追加属性和关系;关系型 schema 遇到新信息时往往要改结构。
agent 循环带来能力也带来风险:可能无限循环、多 agent 交互后漂移、token 成本累积。模型只提议工具调用及参数,应用负责执行。
13:44 agent 循环带来能力也带来风险:可能无限循环、多 agent 交互后漂移、token 成本累积。模型只提议工具调用及参数,应用负责执行。
区分结构校验和语义校验:Pydantic 检查参数类型,本体判断这个动作在业务上是否成立(重复退款、付款给错误的人、状态值不在三个合法值内、客户与客服不能是同一人)。在通过校验之前,agent 不应修改数据库或产生其他副作用。
18:24 区分结构校验和语义校验:Pydantic 检查参数类型,本体判断这个动作在业务上是否成立(重复退款、付款给错误的人、状态值不在三个合法值内、客户与客服不能是同一人)。在通过校验之前,agent 不应修改数据库或产生其他副作用。

截图来自原视频,仅用于评论与学习。

要点(点击时间跳到原视频)

  1. 1:30

    agentic 系统是两条传统的汇合:会感知、决策、行动的 agent,以及描述领域里实体、关系和类别的本体。有用的自主不只需要能生成合理文字的模型,还需要对其所处世界的显式描述。

  2. 5:23

    本体 = 实体 + 属性 + 关系,用图结构存储便于在领域演化时追加属性和关系;关系型 schema 遇到新信息时往往要改结构。

  3. 6:38

    自上而下与自下而上互补:专家先定义核心业务概念(采购单、客户、客服),再从实际客户交互里发现额外的实体和关系。

  4. 10:29

    RDFS 与 OWL 提供推理和约束:例如「教」的定义域是教师、值域是学生,那么「Bob 教 Scooter」可推出 Bob 是教师、教师都是人所以 Bob 是人,Scooter 是学生;还能表达传递关系和「只能有一个值」的关系。

  5. 13:13

    agent 循环带来能力也带来风险:可能无限循环、多 agent 交互后漂移、token 成本累积。模型只提议工具调用及参数,应用负责执行。

  6. 16:15

    在循环里校验工具结果后再接受,不一致的结果退回给模型或升级给人。

  7. 17:43

    区分结构校验和语义校验:Pydantic 检查参数类型,本体判断这个动作在业务上是否成立(重复退款、付款给错误的人、状态值不在三个合法值内、客户与客服不能是同一人)。在通过校验之前,agent 不应修改数据库或产生其他副作用。

可以用在日常工作里的

  • 数据

    为 agent 所处的业务域画一张最小本体:核心实体、关系与不变量(如状态枚举、唯一性、互斥关系)。

  • Harness

    工具调用分两层校验:Pydantic/JSON Schema 管结构,本体或业务规则引擎管语义,失败时把原因回给模型。

  • 安全

    所有有副作用的动作放在校验之后执行,必要时先写入待审批队列。

演讲提到的资源

同一章节的其他演讲

← 返回全景 · 目录