原子概念 / RAG Evaluation
RAG分段评测与引用质量
拆开测解析、召回、排序、上下文与回答,标注真正包含答案的证据片段。
检索别名:Recall@k · MRR · nDCG · 引证蕴涵
01 输入
- 标准证据问题集
- 候选检索和生成引用
- 文档版本及ACL
02 处理机制
- 测召回排序与过滤
- 核证据覆盖和引用定位
- 评支持矛盾及无答案
- 测撤权删除及陈旧源
03 输出与证据
- 分段质量及引用证据
- 召回或生成根因定位
对检索链逐段定位
RAG表现由接入、解析、切块、召回、排序、上下文组装、生成和引用共同决定。先用人工标注的answer-bearing passages判断证据是否进入候选,再判断reranker和context builder是否保留,最后检查回答是否忠实使用。若正确段落根本没被解析出来,换生成模型通常不是第一解法。
指标测不同能力
Recall@k看必要证据是否被召回,MRR或nDCG看排序;证据覆盖看多项要求是否都有依据;引用精确率和蕴涵看来源是否真正支持结论。还要测无答案检出、冲突呈现、陈旧源使用和拒答。单纯“相关文档命中”不足以证明包含答案,关键词匹配也不能证明引证有效。
构造企业真实难例
覆盖中英混合、内部简称、同名公司、扫描表格、跨文档合并、例外与否定、版本冲突、删除来源、新制度生效日和无权限的正确答案。对后者,即使答案内容正确,只要引用或上下文泄漏其他部门资料,也应判安全失败。离线数据资格要与查询者一致,不能用管理员召回率代表普通员工体验。
评测必须跟随版本与权限
固定语料快照、索引generation、embedding、reranker、query改写和预算,同时保留实际ACL决策。更新源、撤销权限或更换chunk策略后,既跑检索层,也跑完整任务回归。用更大的k可能提高召回,却增加成本、噪声和暴露面;应比较端到端成功而非追求单指标最高。本页只规定如何测质量,检索与存储实现由知识分支承载。
建立可审阅的证据对照
每题保留必须找到的证据、可替代来源、无答案条件以及用户可见范围。分别评估只需一个段落和需要跨文件拼接的问题,避免高召回只来自短单跳题。引用定位正确后,还要核它支持的是原始事实还是模型新增推论;表格中的单位、期间与脚注都可能改变命题。替换过期文件或撤回权限后重跑同题,检查索引、缓存和最终引用是否同步变化。
RELATIONSHIP MAP
与其他节点的关系
箭头从本节点指向目标;关系是工程分析映射,不代表厂商合作或已披露的内部实现。
哪些节点指向本页 · 1
- 权限过滤与ANN召回 — 依赖 → RAG分段评测与引用质量
授权子集exact kNN定义基准
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- Anthropic:Demystifying evals for AI agents ↗官方文档 / 声明
2026-01-09;官方方法背景,具体合同与阈值须按业务验证。