一份产品手册已经上传到知识库，用户问的是保修范围，模型却把安装步骤答了出来。文档就在那里，答案也没有被藏起来，偏差却仍然发生。这类场景常被归因于模型不够聪明，实际原因往往更琐碎：检索没有找到那段话，切分把条件句切断了，上下文窗口被无关段落占满，或者模型把相似表述当成了同一件事。
检索增强生成常被误解为“把文档塞进提示词”。如果只做这一步，系统得到的是一堆未经筛选的文本，模型仍然要在噪声里猜。更合理的理解是：它把外部资料变成可检索、可筛选、可引用的上下文，再让模型在有限窗口内组织答案。检索是入口，生成是出口，中间还有切分、召回、重排、预算和溯源几道工序。
资料在手，答偏仍会发生
先看切分。企业文档常带表格、条款和跨段条件，按固定字数切开，容易把“仅在……情况下适用”留在上一段。检索命中了一个片段，却丢掉了限制条件，生成结果就会显得自信而偏题。切分不是越细越好，也不是越粗越稳，它需要跟着文档结构走，让一个片段尽量保留完整语义。
召回和重排也常被混为一谈。召回负责把可能相关的段落找回来，重排负责在有限上下文里决定谁先进入。只做召回，系统可能把十段相似内容一起交给模型；只做重排，又可能漏掉字面不匹配但语义相关的资料。两者之间需要评测，而不是凭感觉调参。评测问题最好来自真实提问，包含同义表达、否定条件和多轮追问，否则离线分数好看，线上仍然答偏。
把文档塞进提示词并不等于检索增强生成
一套可用的检索增强生成流程，通常要回答几个工程问题：资料是否新鲜，权限是否跟随用户，引用能否回到原文，延迟是否可接受。权限尤其容易被忽略。检索层如果没有做用户级过滤，模型可能把不该出现的段落组织进答案；引用如果只是装饰，用户无法核对，错误就会被包装得更像结论。
上下文预算也是现实约束。资料越多不等于答案越稳，无关段落会稀释关键信息。把预算留给高相关片段，再保留少量相邻段落帮助理解，往往比整篇投喂更可控。这里没有放之四海皆准的参数，只有围绕任务做的取舍：问答要短而准，摘要要覆盖全，流程指引要保留步骤顺序。
边界比宣传更值得看
讨论检索增强生成的边界，绕不开“检索不到”和“资料冲突”。知识库没有覆盖的问题，系统应当承认不知道，而不是用相邻概念补全。两份文档说法不一致时，直接拼接会制造矛盾答案，需要版本标记、时间范围和人工确认入口。模型可以组织语言，但不该替企业决定哪份制度有效。
我的判断是，检索增强生成更像一条信息管线，而不是一个即插即用的万能插件。它的价值不在于让模型显得无所不知，而在于把答案约束在可查资料里，并留下核对路径。管线里的切分、召回、重排、权限和引用，每一项都不耀眼，却决定系统是否可信。下次遇到答偏，先别急着换模型，翻一翻检索结果和上下文，问题常常在那里。