专题
权重训练
监督、偏好、参数高效适配与奖励优化。
要解决的问题如何积累可迁移能力并保留可验证的发布边界?
检索别名:learning-training
01 输入
- 目标能力与合格数据
02 处理机制
- 定位缺口
- 提出并验证候选
- 受控发布
03 输出与证据
- 版本化能力与评测证据
EXPLORE THIS BRANCH
继续深入 · 6 个方向
01 / 原子概念
SFT与工具轨迹监督 ↗
通过合格示例训练稳定格式、抽取与工具行为,并保持与实际消息模板和工具协议一致。
02 / 原子概念LoRA参数高效适配 ↗
将LoRA理解为参数化方法而非训练目标,明确基座、adapter与服务配置的组合关系。
03 / 原子概念QLoRA与训练显存预算 ↗
用量化基座降低训练资源需求,同时按序列、batch、优化器与实际硬件估算内存。
04 / 原子概念DPO偏好训练 ↗
从同任务的可靠偏好对学习取舍,防止标签把自信、篇幅和讨喜误作正确。
05 / 原子概念Agent RL、GRPO与奖励设计 ↗
在可检验任务中优化多步行为,把reward与真实结果的偏差、投机和资源成本纳入验收。
06 / 原子概念蒸馏与拒绝采样 ↗
用教师产生候选并独立筛选,同时检查教师正确性、数据训练权和迁移后的净收益。
这里分别展开训练目标、参数方式和能力迁移,避免把SFT、LoRA、DPO与GRPO当成同一维度的互斥选项。SFT学习监督行为,DPO学习偏好,RL优化奖励,GRPO是RL中的算法选择;LoRA与QLoRA改变适配和资源路径,蒸馏则利用教师输出或反馈训练学生。
阅读时先确定数据和目标,再看参数与算力,最后核独立验证及部署限制。所有方法都可能放大错误标签、未来泄漏或奖励漏洞。论文和框架提供实现入口,不能直接承诺企业收益;完整任务的严重错误、成本和回归结果决定是否晋升。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- Anthropic:Agent评测方法 ↗官方文档 / 声明
学习收益需在独立业务任务验证。