免费阅读指南 · 动手实践

知识库回答看着对,怎么知道它真的对?

用一张问题表,检查正确性、引用和不知道时的表现。

开始前需要

已经体验过资料问答工具,能整理问题与对应的原文答案。

实践目标

一组用来检查知识库回答和引用的问题。

用问题集定义“好用”

在搭建前准备一份小型评估集。让了解材料的人写出问题、标准答案与对应原文,避免先看模型答案再调整标准。

  • 明确有答案的问题:检查内容是否正确。
  • 需要组合两段资料的问题:检查是否遗漏条件。
  • 资料中没有答案的问题:检查是否承认不知道。
  • 含糊或有冲突的问题:检查是否追问或指出冲突。

把检索与回答分别检查

先看找回的片段是否包含答案,再看模型是否正确使用了片段。前者出问题时,调整解析、切片或检索;后者出问题时,再考虑提示词、模型和输出约束。

给出引用并不代表引用支持结论。逐条打开引用,检查原文是否真的包含回答中的信息。

记录每次改动

记录文档版本、模型、主要设置、问题集和测试日期。修改一个因素后,用相同问题集复测,同时加入上一轮失败样本。

这是一套评估方法,本文没有声称某个产品已经达到特定准确率。你可以把测试结果作为后续选型和上线判断的证据。