把一张拍虚的白板照片丢进对话框,是不少人试过的做法:光线偏了,字有点糊,但你依然希望它“看一眼就懂”。多数时候它确实能把大意复述出来——也正是这种“大体靠谱”让人放松了警惕。稍微核对就会发现,某个术语被换成了近义词,某个数字丢了小数点,某行箭头指向反了。这些错误不带任何犹豫的痕迹。
要理解这种落差,得先看它处理的是什么。多模态模型通常把图像切成小块,逐块编码成向量,再与文本表征对齐到同一个空间。它学的是“这张图和这段描述在语义上接近”,而不是“这个像素是那个字符”。它读的不是字,是“看起来像字的东西”。
它擅长印象,不擅长清点
这个区别决定了两类任务的手感完全不同。判断照片是室内还是室外、是产品图还是截图,这类整体判断往往可靠;需要逐项清点的活儿就明显吃力。
- 数字与单位:小数点、千分位、负号、百分比,容易在复述中被“顺手”规范化。
- 空间关系:左右、上下、遮挡、箭头的起止点,在示意图和流程图里容易读反。
- 密集文本:表格中某一行的对应关系、脚注和正文的绑定,常常对不上。
- 图表趋势:把抖动说成“稳步上升”之类的定性描述,语气还很笃定。
- 不存在的细节:图中没有的物体被补上,因为那样“更合理”。
最后一条值得单独说。生成的本性决定了它倾向给出连贯的答案,而连贯和正确是两件事。图里信息不足时,人会说“这里看不清”,模型的默认动作却常常是填空。
问法确实会改变答案
同一张图,问“白板上写了什么”和问“请先逐行复述文字,看不清的地方标注出来,再总结要点”,得到的可靠程度不一样。前者要它一步到位做抽象,后者把核对和推理拆开了。几条比较实用的:说明用途,让它知道哪些信息是关键;要求指出依据,比如“你从图中哪一块看出来的”;明确允许它说不知道;涉及数字和专有名词时,宁可让它照抄也不要转述。
还有个常被忽略的前提:图片质量本身有上限。分辨率不够、反光、遮挡,信息在像素层面就丢了,再强的模型也补不回来。流畅的回答掩盖的正是这个物理事实。
“看懂”这个词的边界
围绕多模态模型的讨论里,“它到底懂不懂”反复出现。这个问题不好答,一部分原因是人类的“看懂”也依赖大量先验:看一眼会议室照片就知道白板上的字是讨论记录而不是菜单,这个判断来得毫无察觉。模型也有先验,只是来自文本语料,和我们的不完全重合。
更实际的分歧在校准。人能感知自己的不确定,会在模糊处停下来;模型的不确定未必体现在措辞上。评测也难做:用短问答衡量看图能力容易高估,用精心构造的难题又容易低估。这也是为什么落地时比较稳妥的位置是流程前段——先粗读、先分类、先给候选,后面接可核验的环节,比如结构化抽取之后的规则校验,或者人工过一遍关键字段。
我个人的判断是,多模态模型的价值不在于替你看,而在于把“看”变成一段可以追问的对话。它说错了不要紧,你接着问“这一处依据什么”,这个过程往往比第一版答案更有信息量。
所以下次把图丢进去之前,先想清楚要的是大意还是逐字。这两件事,它做得并不一样。