很多团队第一次把大模型接进知识库,都会遇到类似情况:日常闲聊很顺,问到内部流程、产品说明或历史文档时,回答却像隔着一层雾。语气笃定,细节含糊;追问来源,只能得到“根据资料”这样的空话。检索增强生成被频繁提起,正是因为它在尝试补上这一段:不让模型只凭参数记忆说话,而是先去资料里找依据。
先看检索,而不是只看生成
检索增强生成常被简化成“先搜再答”,但真正影响体验的,往往是搜到什么、怎么切、如何放进上下文。文档切得太碎,语义容易断裂;切得太长,噪声又会挤占窗口。标题、更新时间、来源这些元信息如果被丢掉,模型很难判断一段内容是否仍然适用。
检索层还承担着问题转译的工作。用户问“新版本为什么没同步”,检索词未必就是这几个字;系统需要把它拆成版本、同步、发布记录等可匹配的表达。否则生成端再会组织语言,也只能对着不相关的片段说话。一个可操作的检查清单是:
- 文档是否按语义切分,而不是只按字数截断;
- 标题、来源、时间等字段是否随片段保留;
- 问题是否需要先改写,再做多路召回;
- 召回结果是否去重,并做必要的相关性筛选。
出处不是装饰
很多问答产品会附上引用链接,但链接和结论之间未必真的对应。有的引用只覆盖了部分条件,有的片段来自旧文档,还有的只是词语相似。要让出处有意义,回答里应该能看出哪句话由哪段资料支撑,至少留下可回查的路径。评估时也不能只看回答读起来是否顺,而要看检索片段是否足以推出这个结论,以及缺失资料时模型有没有承认不知道。
这件事很难靠一次演示验证。一种稳妥的方式,是把真实问题收集起来,覆盖不同表达、不同文档版本和资料缺失的情况,逐条看检索结果与回答是否一致。它不显眼,却决定了系统能不能长期使用。
边界比口号更重要
检索增强生成不是给大模型外接一个知识库就结束了。资料本身缺失、互相冲突或长期未更新时,检索只会把这些状态带进回答。它更像资料治理、检索策略和生成约束的组合,而不是一个可以一劳永逸的开关。对编辑和知识维护者来说,文档写得清楚、结构稳定、版本可追溯,是同样需要投入的部分。
所以,判断一个知识库问答是否值得继续投入,不妨先问:当它答错时,我们能不能沿着引用找到问题出在资料、检索,还是生成?如果这条路径清楚,检索增强生成才有机会从演示走向日常。