跳到正文
SGSteven Guan

原子概念 / Knowledge Distillation

蒸馏与拒绝采样

用教师产生候选并独立筛选,同时检查教师正确性、数据训练权和迁移后的净收益。

要解决的问题怎样将教师能力转移给学生,又不放大教师错误?

检索别名:蒸馏 · 教师学生 · 拒绝采样

BLUEPRINT局部蓝图

01 输入

  1. 教师及输出使用资格
  2. 授权任务和学生基座
  3. 独立验证及持出
→

02 处理机制

  1. 生成目标或教师反馈
  2. 核事实工具及拒绝
  3. 按蒸馏目标训练学生
  4. 比成本和任务退化
→

03 输出与证据

  1. 学生与数据manifest
  2. 错误传播及泛化报告

教师生成、筛选和训练是三件事

蒸馏可以使用强模型的输出或行为作为学生学习材料;rejection sampling则生成多个候选并筛去不合格结果,筛选本身并未改变权重。两者可以结合,但应分别记录生成预算、筛选标准、训练目标和最终部署。教师更强不意味着每个答案都正确,也不意味着学生能无损复制能力。

独立验证比自称成功可靠

对数字用程序复算,对引用查原文与蕴涵,对工具动作查终态,对开放解释用经校准的rubric和专家抽审。不要仅保留教师自评最高的轨迹,否则同源错误会进入训练。保留正确拒绝、unknown、异常恢复和反例,避免数据只覆盖顺利完成路径。筛选器版本、证据和被拒原因同样是资产。

核对数据与模型使用权

分别检查教师服务条款、输出训练用途、客户材料授权、基座许可证和最终分发方式。可通过API生成内容不自动代表可用于竞争模型训练,能读取私人文档也不自动具备训练权。对敏感内容执行用途控制、去标识与保留策略,训练数据和评测数据分组隔离,防合成改写污染持出集。

用学生在真实任务上的表现结账

比较教师、未训练学生和训练学生在相同harness、工具和预算下的正确性、拒答、费用与P95。生成和筛选的前期成本要用于项目可行性判断,部署晋升则看未来增量价值。若学生需要更多重试或专家修订,token单价更低也可能更贵。保留跨域和安全回归,不以某个模仿分数代替领域能力。

筛选通过率、人工裁决和被拒样本分布也应保存,以便识别教师或验证器的共同盲点。

RELATIONSHIP MAP

与其他节点的关系

箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。

PRIMARY SOURCES

来源与阅读边界

来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。

  1. TRL:Distillation Trainer ↗官方文档 / 声明

    官方实现涵盖on-policy知识蒸馏;具体目标和数据资格需按方案核对。

  2. Anthropic:Agent评测方法 ↗官方文档 / 声明

    学习收益需在独立业务任务验证。