你在对话框里问：“这份流程为什么改了？”模型给出一个语气笃定的解释，听起来顺，但翻回原文，关键条款根本不存在。这样的时刻，问题往往不在表达，而在模型没有可依据的材料。检索增强生成要处理的，正是这个缺口。
先找材料，再组织回答
它的思路不复杂：面对问题，系统先从可访问的知识库、文档或业务资料中找出相关片段，再把片段和问题一起交给模型，让回答沿着材料展开。模型仍然负责理解与表达，但“依据什么说”被前置成了检索问题。这像开会前先翻资料，而不是只凭记忆发言。
它补的不是知识量，而是证据链
很多人把检索增强生成理解成“给模型外挂一个知识库”。这个说法省事，却容易漏掉重点。模型参数里的知识通常滞后，也难核对来源；检索把可更新、可追溯的材料带到当前回答里。对内部问答、产品文档、客服辅助这类场景，价值不在于让模型显得无所不知，而在于让回答有出处、能复核、可更新。
但它不是把文档塞进提示词就结束。检索结果是否切中问题、片段是否完整、权限是否隔离、旧版本是否清理，都会影响最终回答。检索到过期制度，模型可能答得很流畅；切块把条件句截断，结论就可能走样。到了这一步，检索增强生成是一套内容治理和工程约束，而不是一个开关。
边界在检索侧，不在措辞侧
评估这类系统时，只看回答是否通顺不够。需要把问题拆开：材料有没有被找到，找到的片段是否覆盖答案，模型是否忠实于片段，引用能否回到原文。若检索侧失准，生成侧再会措辞也只是把偏差包装成自然语气。反过来，检索命中但权限边界模糊，也会带来新的风险。
上下文变长，问题就消失了吗
上下文窗口扩大，确实能让材料一次性进入提示词，但它不自动解决“该拿哪些材料”的问题。材料一多，噪声、重复和相互矛盾的内容也会增加；权限、更新和引用仍然要单独处理。检索的作用不只是省上下文，而是把选择材料这一步显性化，让系统能解释为什么用了这段、没用那段。
所以我不太愿意把检索增强生成说成模型缺点的补丁。它把问答从“凭印象回答”拉回到“先找依据再说”的工作方式。这个转向不炫目，却影响系统能否被日常使用。
我的判断是，它适合知识会变、答案需要来源、内容需要权限控制的场景；如果问题本身开放、材料稀少，或者用户期待的是创意表达，它未必是合适入口。落地时先把文档结构、更新机制和引用规则理清，再谈模型表现，顺序反过来容易做成演示，难以成为日常工具。