30 秒结论 · 先看这里
验收别看演示流畅度,要看真实问题的命中率、引用准不准、答错怎么兜底。用你自己的问题清单验收,才敢签字。
现场共情:演示很流畅,验收时却不敢签字
供应商演示时问题都是挑过的,一问一答行云流水。真到验收,业务方随手抛出几个带口音、带错别字、跨两份文档的问题,系统就开始答非所问;更麻烦的是,它答错了也答得很自信,没有“不知道”的按钮。验收如果只看演示体验,等于把风险留到上线后。
判断条件
1. 命中率用真实问题测
从客服记录、群里提问里抽 100 个真实问题,统计能答、答对、答错、拒答的分布,而不是用准备好的题库。
2. 引用要逐条核对
抽样检查答案的来源是否真的支持结论,有没有张冠李戴、拿旧版本当依据。
3. 拒答是能力不是缺陷
超出文档范围的问题必须明确说不知道或转人工,验收时要专门测“陷阱题”。
4. 权限要反向演练
用普通员工账号去问机密问题,验证系统是否真的挡住,而不是文档“理论上”有权限设置。
明确不适合做的情况
出现这些信号,先别急
出现这些信号,验收先暂停:没有真实问题集,只有供应商题库;答错不记录、不分类,只说“再调调”;拒答率极高或为零(为零通常意味着在硬答);权限没法在测试环境演练。验收标准不写清,上线日期越近,扯皮越多。
最小动作清单
Day 1:建真实测试集
从历史提问中抽 100 题,标注标准答案和来源文档,分成常规、模糊、越界三类。
Day 2:跑四类指标
统计命中率、引用准确率、拒答正确率、权限拦截率,逐项记录失败样例。
Day 3:定上线门槛
和业务方约定每类指标的最低线,以及答错时的兜底流程(转人工/提示不确定),写进验收单。
证据与成熟度边界
现有证据用于验证结构,不替代你的业务验收
查看合作流程与验收边界 →
企业级 RAG 知识库案例展示了可演示的验收维度(命中、引用、拒答、权限),可作为讨论验收标准的样本;但你的验收必须基于自己的真实问题集和责任边界,不能直接套用他人数据。
查看 RAG 知识库案例 →查看合作流程与验收边界 →