一份产品手册改了三版,客服还在凭记忆回答;新同事打开知识库,搜到的却是两年前的流程。类似场景里,大模型不是不会说话,而是不知道该依据哪一页说话。检索增强生成被反复提起,原因并不神秘:它想让回答先找到材料,再组织语言。
先找资料,再开口
把大模型直接用于企业问答,容易遇到两个问题:模型记得住通用知识,却不一定知道内部文档;即使知道,也可能把相似概念混在一起。检索增强生成的做法,是在生成之前插入检索环节:把问题转成查询,从文档库中取回相关片段,再把这些片段和问题一起交给模型。模型看到的不只是问题,还有可引用的上下文。
这听上去像给模型配了一个资料员。资料员找得准,回答就有依据;找得偏,生成部分再流畅也只是把偏差包装得更像答案。因此,这套系统的关键并不只在模型参数,而在检索质量、文档切分、权限过滤和提示组织这些看起来琐碎的环节。
难点常常不在模型
很多团队刚开始做这类系统,会把注意力放在选模型上,真正耗时的却是知识库。文档格式五花八门,表格、附件、扫描件和过期版本混在一起;同一业务词在不同部门有不同叫法;有些内容只对特定角色开放。检索层如果不过滤权限,回答就可能越过边界;如果切分过粗,关键句会被埋在长段落里;如果切分过细,上下文又可能断掉。
- 文档要有人维护,过期内容需要能退出检索范围。
- 查询要能处理同义词、缩写和口语表达,不能只靠字面匹配。
- 回答最好带上出处,方便使用者回到原文核对。
- 权限控制应前置到检索阶段,而不是等生成后再补救。
这些工作不显眼,却决定一套系统能不能长期使用。模型可以更换,知识库的治理习惯却很难临时补齐。
它适合回答什么,不适合回答什么
检索增强生成擅长处理有明确资料依据的问题:制度查询、产品说明、操作步骤、合同条款解释等。资料越稳定、结构越清楚,回答越容易核对。反过来,如果问题需要实时判断、跨部门协商,或者资料本身互相矛盾,单靠它并不能给出可靠结论。它能把材料摆到桌面上,却不能替人做决定。
另一个常被忽略的边界是“找不到”。系统应当允许回答“没有检索到足够依据”,而不是强行生成一段看似完整的话。对使用者来说,一个带出处的谨慎回答,至少留下了核对入口;语气肯定的猜测则很难被追溯。企业真正需要的不是让模型显得无所不知,而是让答案可以被追溯、被质疑、被修正。
所以,检索增强生成更像一项工程习惯:先承认模型会犯错,再用检索、权限和出处把错误关进可检查的笼子里。它不解决所有问题,但能让文档问答从“凭感觉”往“有依据”靠近一步。