采风全网
达观天下

检索增强生成:找不到那页纸时,模型该怎么办

设想一个内部知识库问答页面。有人问:“发票抬头写错了,报销流程怎么走?”系统几秒内给出步骤,语气笃定。点开引用,链接指向一份两年前的制度文档,最新修订版没有出现在检索结果里。这个场景并不罕见,也说明“模型答得顺”和“答得对”是两件事。

检索增强生成的思路不神秘:回答之前,先从可用的文档集合里找出相关片段,再把片段和问题一起交给模型组织语言。它把一部分生成任务转成检索任务。听起来像给模型配了一位资料员,但资料员也会拿错卷宗。

先查再答,不等于答对

检索环节有几个不显眼却关键的动作。文档切分粒度直接影响召回:切得太碎,上下文断裂;切得太大,噪声变多。用户口语和文档术语之间也有距离,查询改写因此重要。召回之后还需要重排,把真正相关的片段往前放。这些步骤决定了答案的底座,而不是模型临场发挥。

引用和溯源是另一层。只给答案不给出处,用户很难判断依据。引用不是装饰,它把回答变成可核查的线索。但引用也可能“看起来有”:列出的片段并不支持结论。系统需要检查引用片段与结论是否一致,否则引用反而增加迷惑性。

边界在检索不到的地方

当检索不到足够依据时,模型应当承认不知道,而不是用旧知识补全。多跳问题、跨文档冲突、时效性强的流程,都是难点。检索增强生成不是“消除幻觉”的开关,它把生成风险部分转移到检索环节;检索错了,生成只会更自信地错。

我倾向于把这类系统拆开评价:检索命中情况、片段相关性、引用一致性、拒答是否合理,各自看。更新维护同样重要,文档版本、权限、过期内容都会影响结果。否则系统可能稳定地引用旧答案,而且每次都很有礼貌。

回到开头那个页面。后来它加了“未找到足够依据”的提示,也把引用片段展开给用户看。回答不再总是流畅,但更像一个愿意翻资料的同事。检索增强生成的价值,也许就在这里:不是让模型显得无所不知,而是让它在开口前,先确认那页纸还在不在。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:检索增强生成:找不到那页纸时,模型该怎么办
文章链接:https://tech.cfdanews.com/ai/2010.html