把一张零件照片交给多模态模型,它多半能写出一段像模像样的说明:金属件、圆柱形、表面有轻微反光。可你接着问“图里有几颗螺丝”,答案就开始飘了:有时多数一颗,有时把垫片的边缘也算进去。
这种反差不是孤例。它指向一个更基础的问题:模型在处理图像时,究竟做了什么。
图像进来以后,先被切成块
大多数视觉语言模型的第一步,是把图片裁成一个个小方块,编码成向量,再和文本的词向量放进同一个表示空间里对齐。所谓“看懂”,在这个流程里更接近于“把这块区域和那批描述匹配起来”。匹配做得足够好,描述就会显得准确;但匹配本身不携带“这里有三个、那里有两个”的计数结构。
流畅会替不确定打掩护
语言部分的任务,是把零散信号组织成通顺的句子。通顺是优点,也是遮蔽:一句话读起来顺,读者就容易跳过“它其实没把握”这件事。人工复核时,模糊的措辞往往比明确的错误更危险。
哪些环节可以先交出去
这不意味着它没用,只是分工要清楚。
- 字符边界清楚的任务,比如票据、标签、表格里的文字提取,结果可以逐字核对,出错也能立刻发现。
- 把“识别”和“判断”拆开:让它输出结构化字段和大致位置,判断留给规则或人。
- 计数、遮挡、空间关系、细小色差这类问题,默认加一道校验,而不是直接采信。
边界在哪里
多模态模型的表达能力,来自训练时见过的大量图文配对。拍摄条件一旦偏离,比如强反光、逆光、镜头脏污、非常规视角,它仍会给出流畅的描述,只是描述的落点开始偏移。术语和专业标注也是类似的情况:通用语料里罕见的说法,模型倾向于用常见词去“翻译”,听起来合理,实际含义已经变了。
所以评估一个多模态模型能不能进产线或工作流,光看几张漂亮的示例图说明不了什么。更该问的是:在光线不对、角度别扭、样本稀少的那些图上,它会不会承认自己不确定。