把一个摄像头接到模型上,让它说说画面里发生了什么,看上去是多模态最省事的用法。真跑起来,麻烦通常不在“说得像不像”,而在“看没看清”。一张两米宽的产线照片压到几百像素,螺丝有没有松动、标签贴没贴歪,这些毫米级的差别在压缩阶段就丢了,后面的语言描述再流畅也补不回来。
分辨率之外的那部分
很多团队的第一反应是把图切得更碎、送得更多。切图确实能缓解细节丢失,代价是模型要在多个碎块之间重新建立关系:这道划痕是同一块面板上的连续纹路,还是两块面板各自的瑕疵?切片切开了空间,也切断了上下文。我的看法是,先想清楚业务要判断的最小单位有多大,再决定喂给多模态模型的粒度,而不是反过来让模型的行为决定业务流程。
另一种常见情况是文字先入为主。经过图文对齐训练的模型,倾向于把画面往提示词里的说法上靠。你问“这里有裂缝吗”,它更容易找出裂缝;你问“表面是否完好”,它更容易回答“完好”。同一个画面换个问法,结论可能就变了。这不一定是模型在编,而是提问本身带了方向。
时序是另一道坎
视频理解经常被当成“多帧图片”来处理,实际差得远。单帧能看出人有没有戴安全帽,看不出他是不是正往危险区域走;能读出仪表数值,看不出指针是回落还是继续攀升。要判断“正在发生什么”,需要把前后帧的因果连起来,而这部分能力恰好是当前多模态模型尚未成熟的地方。
工程上的折中办法是先做轻量的帧间差分或目标跟踪,把“有变化”的片段挑出来,再交给模型做语义判断。这样既省算力,输出也更容易解释:它依据的是哪几帧,可以回放核对。
评测值得比选型花更多时间
公开榜单上的分数,和你的车间、你的客服截图关系不大。真正有用的评测集往往是自己攒的,几十到几百条,来自实际出过错的场景。几件事值得写进评测流程:
- 用自己业务的图,别只信公开数据;
- 把“说不准”也当作可接受的答案之一,看模型会不会硬答;
- 同一批样本换几种问法,看结论稳不稳;
- 记录延迟和调用成本,不能只看答得对不对。
还有一条不太技术的边界
数据出门这件事,经常比准确率更早卡住项目。车间画面、客户截图、内部文档送进第三方接口,保密和合规上的顾虑往往过不了内部评审。能在本地跑的模型,即便判断没那么精细,也常常更容易被放行。
所以我的判断偏保守:多模态模型适合放在“人本来就在看、需要人复核”的环节,做初筛、做提效,而不是直接替人下结论。等评测集覆盖住了你自己的长尾场景,再谈放权。在那之前,问清楚它看到了什么、依据哪一帧、说不准的时候会怎样,比追问它有多聪明有用得多。