采风全网
达观天下

检索不再逐字匹配,向量数据库该放在架构的哪一层

一个客服团队想做“搜得到意思”的知识库。需求说得很朴素:用户输入“退款多久到账”,要能命中写着“资金原路退回周期”的那段话。工程师的第一反应是加一个向量数据库,第二反应是——加了之后,谁来保证它和业务数据不打架。

它存下来的其实是坐标

文本进模型,出一串浮点数,几百到上千维。语义相近的句子,坐标靠得近。数据库要做的,就是在这个高维空间里找邻居。精确找一遍太慢,于是改用近似索引,用一点召回换速度。这是工程取舍,并非魔法。想清楚这点,后面很多问题都好谈。

麻烦往往出在“带条件的找”

真实查询很少只有语义。用户在同一句话里带了权限、时间范围、状态。先过滤再找邻居,索引容易退化成逐条扫描;先找邻居再过滤,返回条数可能不够。多数产品在这中间做折中,效果取决于数据分布。

还有更新。文档改了一段,对应向量要重算;模型换了版本,全库向量的含义就不再一致,只能重建。这些事在演示里看不见,往往在上线几个月后才显现出来。

三个容易踩空的地方

  • 把向量库当主库用,原始文本和权限放在别处,结果两份数据对不上。
  • 指望它替代关键词检索。生僻型号、订单号这类精确字符串,语义模型给不出稳定结果。
  • 忽略评估。没有一套固定的查询集和命中标准,调参只能凭感觉。

更常见的做法是混合检索:关键词负责精确,向量负责模糊,再统一排序。向量数据库在这个组合里只是其中一层,并非全部。

有一个问题值得先问

如果现有数据库已经支持向量类型,数据量不大、过滤条件简单,先在上面跑通,未必是保守。反过来,查询量大、过滤维度多、需要独立扩缩容时,单独引入一层会省心。判断依据是负载形态,不是潮流。

回到开头那个团队。他们最后没有急着选型,而是先整理了三百条真实提问,标出期望命中的段落。这个过程,比任何一次压测都更能说明问题出在哪。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:检索不再逐字匹配,向量数据库该放在架构的哪一层
文章链接:https://tech.cfdanews.com/ai/2158.html