客服坐席遇到一个棘手问题：用户问促销期购买的设备能否延长换货期限。内部助手很快给出答案，还附了链接；点开链接，引用的是旧版政策。答案并非凭空编造，它确实“查”了资料，只是查到的片段过期，生成时又把新旧条款缝在了一起。这类问题，正是检索增强生成要面对的现实。
检索增强生成的直觉很朴素：先从已有资料里找相关片段，再让模型基于片段组织回答。听起来像给模型加了一个资料柜。但资料柜不会自动整理，检索也不是把问题丢进去就能拿到正确页。文档切分过碎，上下文会断裂；切分过大，噪声会挤占窗口；标题、版本号、生效日期这些关键信息若没被带进片段，模型很难判断哪一条才是当前有效规则。
真正难的是“查得准”之后
不少团队把注意力放在生成端，调提示词、换模型，却忽略了检索端。实际排查时，我会先看三件事：问题里的时间、对象、条件有没有被检索 query 保留；命中的片段是否包含完整约束；多个来源冲突时，系统有没有把冲突暴露给用户。若这三步含糊，生成端再流畅，也只是把不确定包装成确定。
- 来源要可追溯：回答旁边给出出处，并标明版本或更新时间，方便人工复核。
- 冲突要显式处理：同一问题命中新旧两版制度时，宁可提示存在差异，也不要自动合并成一句看似完整的结论。
- 不知道要说得出来：检索结果不足时，允许回答“资料中未找到”，而不是勉强补全。
这并不意味着检索增强生成只能做保守问答。它可以被放进一个有反馈的流程：用户追问时，系统能定位到具体段落；编辑发现旧文档，能触发重新索引；坐席看到引用，可以直接判断要不要转人工。这里的关键不是让模型显得聪明，而是让答案的来路可查、可停、可纠正。
边界不在模型，而在资料治理
如果知识库本身缺少维护，同一政策有多个版本，术语前后不一致，检索增强生成也很难稳定。它能把“闭卷回答”变成“开卷回答”，但开卷考试仍会看错题、抄错行。上线前值得先问：资料谁负责更新，过期文档如何下线，权限边界是否清楚，引用能否回到原文。这些问题不解决，系统只是把旧问题提前暴露出来。
所以，看到一次回答跑偏，不必急着归咎于模型。先看它查到了什么，再看它为什么那样组织。检索增强生成的价值，往往不在一次惊艳回答，而在把“答案从哪里来”变成可以检查的日常动作。