有人在内网搜索「退款要走哪些步骤」,返回的是一堆标题里带「退款」两个字的公告,真正那份流程文档却没出现——它的标题写的是「资金退回处理说明」。这种挫败感很常见,也是向量数据库被反复提起的现实起点:人提问的方式,和文档写下来的方式,往往对不上。
传统检索靠字面匹配,关键词对上就返回,对不上就沉默。它没有错,只是把人逼着去猜系统认得哪些词。向量检索换了个思路,把文本、图片这类内容转成一串数字,再比较这串数字之间的距离,距离近就认为意思接近。字面不同但语义相近的两句话,在这套表示下可能靠得很近。
它换掉的不是速度,是匹配的依据
很多人第一次接触,会以为这是「更快的搜索」。其实速度不是重点,依据才是。字面匹配问的是「你和我有没有共同的词」,向量检索问的是「你和我是不是在说同一件事」。前者确定、可解释,后者模糊、需要验证。这个差别决定了它适合什么,也决定了它容易在哪里出问题。
把语义变成可计算的距离,代价是「接近」这件事本身没有绝对标准。两段文本算出来的相似度是零点七还是零点八,很难说清分别意味着什么。工程上的做法是先定一个基准集合,人工标注哪些算相关,再用它来调参数。没有这套东西,效果好不好只能靠感觉。
效率来自近似,误差也来自近似
逐条比对在数据量小时没问题,量大之后就得建索引。常见的做法是把向量分组、建图或者做量化压缩,查询时只在一个子集里找,牺牲一点完备性换取响应时间。所以这类系统给出的结果,本质上是「近似最近邻」,不是穷举出来的唯一答案。理解这一点很重要:调参时看到召回不稳定,未必是模型的问题,可能是索引结构在取舍。
这也解释了一个常见困惑——同一段查询,换台机器、换次重建索引,结果顺序可能不一样。它不是bug,是设计里就写好的让步。
麻烦大多不在检索本身
真正消耗精力的,往往是检索之外的部分。
- 更新与删除。向量不是原样存储的字符串,改一段文字通常要重新计算表示,再处理索引。频繁变更的场景下,这套流程比想象中笨重。
- 过滤条件。业务查询很少只按语义找,往往还要「限定某个时间之后」「只在这个部门范围内」。语义相似度和结构化条件怎么结合,各家做法不同,效果也参差。
- 评估。传统搜索能看点击、看是否命中,语义检索的「对」与「不对」边界模糊,缺乏可靠的反馈信号,优化容易变成盲调。
还有一层容易被忽略:向量数据库存的是表示,不是原文。原文仍在别处,两边要对得上号。多一套系统,就多一份一致性维护的工作。
有些场景,确实不必请它出场
如果查询本身就是精确的——按编号查订单、按标签筛内容——字面匹配又快又准,还省掉一整套链路。数据规模不大、语义要求不高时,加一层向量检索更像是给自己找活干。判断标准不复杂:先问有没有「换个说法也要找到」的真实需求,再问能不能承担标注和调参的长期投入。两个问题有一个答不上来,就该再等等。
我的看法是,向量数据库更像一种补充手段,而不是替代方案。它在语义模糊的地带发挥作用,代价是把确定性换成了概率。用之前想清楚愿意付这个代价,比追新技术本身重要得多。