不少团队第一次把大模型接进内部知识库，都会遇到一个不复杂的尴尬：回答很顺，引用却是旧制度；刚上传的文档，模型像没看见。问题不在“会不会说”，而在“有没有看到”。检索增强生成要处理的，正是这个信息入口。
做法并不神秘。系统先拿问题去检索，找到可能相关的文档片段，再把片段和问题一起交给模型，让答案基于给定材料组织。与只靠参数记忆相比，这条路把“知道什么”拆成两步：先找得到，再答得出。对更新频繁、散落在多个系统里的内容，这种拆分更接近真实工作流。
卡点常在检索，不在生成
很多讨论盯着模型，实际体验却先卡在检索。文档切得太粗，一段混着几个主题；切得太细，上下文又断掉。标题、表格、附件和权限边界都会影响召回。用户问“报销标准”，系统若只按字面匹配，可能漏掉“差旅费用管理办法”这类说法不同的文件。检索增强生成的质量，常先被这些问题拉低。
排序和取舍也容易低估。召回片段不一定都该进提示词：塞太多，无关内容会干扰模型；塞太少，关键条件又缺失。工程上要做过滤、去重、重排，并把来源和更新时间带进上下文。否则答案看似有依据，实际依据并不支持结论。
- 入库前做基本清洗，去掉重复页眉、空段落和失效链接。
- 切分策略跟着内容走，制度条款、产品说明、会议纪要不必共用一套参数。
- 检索结果保留来源标识，方便回看原文，而不是只给一段顺滑结论。
它不能替代知识治理
常有人说，给模型外接一个知识库就行了。但知识库是否可信，决定方案上限。过期文档没下线、同名文件多个版本、权限标签缺失，都会让检索把错误材料送进模型。此时生成越流畅，误导越隐蔽。我的判断是，这类项目前期更像信息治理项目，而不是模型调参项目。
权限也绕不开。企业知识库往往分层，检索层若不分权限地召回，再把片段拼进提示词，就可能把不该看到的内容暴露给无权用户。稳妥做法是在检索阶段做权限过滤，而不是生成后再遮挡。这一点偏工程，却直接影响能不能上线。
先看三个信号
如果知识更新频繁、答案需要引用来源、问题集中在有限文档范围内，它通常有发挥空间。反过来，任务主要靠推理、创作或开放式分析，外部资料又不是关键变量，硬加检索只会增加链路复杂度和响应时间。它适合“有材料可依”的问答，不适合被当成万能插件。
评估也别只看回答像不像。更有意义的指标是：该找的片段有没有找到、引用是否支持结论、无答案时能否承认不知道、更新文档后结果有没有变化。把这些拆开看，才能知道问题出在找料、给料，还是组织答案。检索增强生成不是接入一次就结束的产品，它更像一条需要维护的信息通道。知道它在哪里有效、在哪里失灵，比把它说成什么都能做，更接近实际。