前阵子帮朋友看一个检索服务,代码不复杂:文档切片、调用嵌入模型、写入向量库、查询时取相似度靠前的结果。上线头两周表现不错,第三周开始有人反馈“明明删掉的内容还能被搜到”。他第一反应是查询有缓存,排查半天才发现,问题出在对“删除”的理解上。
这件事让我重新想了一个问题:我们谈向量数据库时,习惯聊吞吐、延迟、索引类型,却很少认真聊它如何面对修改和删除。而在真实业务里,数据不是一次性灌进去就静止不动,它会过期、会纠错、会被要求撤回。
向量不是一行记录,它是一段被压缩过的语义
传统数据库里删一条记录,就是把那行数据拿走。向量库不太一样:一条向量往往由原始文本、图像或其他内容经模型编码得到,检索时比较的是向量之间的距离。删除一条向量,等于从一棵为近似搜索而构造的索引结构里摘掉一个点,而这个结构本身可能已经为了查询效率做过聚类、分桶或图层组织。
于是问题变成:摘掉之后,索引要不要立刻重建?不重建,被删的向量可能短时间仍参与候选召回;重建,又可能带来明显的资源开销。不同产品在这件事上的策略不一样,有的用标记位先逻辑删除,等合并时再物理清理;有的把删除摊到后台任务里慢慢消化。对使用者来说,这意味着“删除成功”的返回值和“删除真的生效”之间,可能隔着一段时间。
这也解释了为什么向量数据库的运维经验,很难从传统数据库直接平移过来。前者更像一个需要定期整理的数据系统,而不是装好就一劳永逸的加速插件。
更新带来的连锁反应
比删除更常见的是更新。一段产品说明改了措辞,重新编码后得到新向量,旧向量要么删掉、要么保留。如果保留,同一份内容可能在结果里出现两次,语义还略有差异;如果删掉,又回到上面那个索引整理的问题。
实践中常见的做法是带上版本或时间字段,查询时做过滤。但过滤本身也有代价:候选集先按相似度取出,再按条件筛掉,筛得太狠可能让最终结果数量不足。反过来先过滤再算距离,又可能牺牲近似索引原本的效率优势。这里没有通用答案,取决于数据分布和查询模式,需要实际测。
我更愿意把这类设计看作一种取舍,而不是缺陷。向量检索的核心是用一点准确性换大量计算时间,删除和更新则是往这个交换里加入新的约束。
那它适合放在什么位置
如果业务是离线分析、数据基本不变,这些麻烦事影响很小。但如果是内容平台、客服知识库、代码检索这类持续增删改的场景,选型时不妨多问几句:
- 删除后多久不再被召回,是否有可观测的清理进度;
- 批量更新时是否会触发索引重建,重建期间查询表现如何;
- 过滤条件和向量检索的配合方式,是否会导致结果数量不稳定;
- 数据规模增长后,内存与磁盘的占用曲线大致是什么形状。
这些问题听起来琐碎,却往往决定了一个系统能不能长期安稳运行。向量数据库的价值不只是让相似搜索变快,它也把“如何管理一份会变化的语义数据”这件事摆到了台面上。想清楚这一点,再决定把它放在架构的哪一层,会比单纯比较延迟数字更有意义。