把一张现场照片交给模型,问它:这台设备上的表针指到哪、旁边那根管子有没有渗漏、地上的箱子挡没挡住通道。回答通常来得很流畅,句式完整,语气笃定。然后你放大图片自己核对,发现表针读偏了一格。
这一格的偏差,差不多就是现在多模态模型从演示走向日常使用之间的距离。
“像”与“是”之间
多模态模型的基本做法,是把图像、文本、语音分别编码,再投射到同一个表征空间里做对齐。训练目标决定了它擅长的是相关性:这张图和“仪表盘”“控制柜”“巡检”这些词在语义上靠得很近,它能抓住。但“指针指向 3.2”属于另一类问题,它要的是像素级的定位和数值判断,不是语义相似度。
所以会出现一种很典型的表现:整体描述八九不离十,具体到数字、数量、方位、细小缺陷,就开始飘。这不完全是能力不足,更像是任务被放错了抽屉——用语义匹配的手段,去解一个测量性质的问题。
真正卡住落地的地方
很多团队在试用阶段感觉良好,进入流程之后就慢下来了。摩擦往往不在模型本身,而在它周边:
- 延迟和成本。高分辨率图像切块之后,输入长度迅速膨胀,响应时间和推理开销一起上去。巡检这类场景又常常要求秒级反馈。
- 输出形态不对。模型给的是一段通顺的话,而业务系统需要的是一个带字段名、带取值范围、能入库的结构化结果。中间这层转换,工作量常被低估。
- 无法回溯。人做的判断可以问“你当时依据什么”,模型的回答是重新生成一遍,未必和上次一致。出了问题要定位,就得额外记录输入、版本和提示。
这些都不是算法层面的难题,却决定了系统能不能被放心地交到一线手里。
“答对了”这句话本身要定义清楚
评估多模态模型时,最容易被含糊过去的一环是判定口径。同一张图,输出“桌上有只猫”和“桌上有只橘色的猫”,哪个算对?如果任务本身没被拆成可判定的子问题,评估就会退化成抽样看感觉,几个人各看几十条,得出一个彼此都不太信的结论。
比较务实的做法是先把任务切碎:读数是不是在容差内、缺陷有没有框到、描述里有没有出现图中不存在的东西。每一小块单独定判定规则,再合起来看整体是否可用。这个过程枯燥,但比反复争论“感觉还行”要省时间。
一条简单的取舍标准
我倾向于用一个很朴素的问题来划线:如果它这次答错了,人能在几秒内发现吗?
能,就值得用。比如帮人从几十页图文资料里先筛出相关段落、把现场照片转成可检索的描述、给视频自动打上时间标记——这些环节人本来就要复核,模型只是减少了找信息的时间,错了不至于造成后果。
不能,就得先改流程,而不是先换模型。凡是输出直接进入判定、没人再看一眼的位置,都要求错误率低到接近零,而这恰恰是当前多模态模型最难承诺的部分。它不会告诉你“这里我不确定”,它会把不确定的部分也说得同样流畅。
所以多模态模型进入业务的一个不那么显眼的标志,不是演示时有多顺,而是有人愿意为它的错误设计一条兜底路径:谁复核、多久复一次、发现不一致时怎么回退。把这条路径写清楚,比再调一轮提示词更有用。