有人把一段会议纪要丢给模型,让它整理成给客户的说明。几秒后返回的文字干净、客气、条理清楚,只是其中一句“我们已在本周完成接口联调”根本没发生过。句子本身没有语法问题,语气也恰到好处——麻烦恰恰在这里。
生成式人工智能的产出,第一眼被看的往往是“像不像”。像一份周报,像一封邮件,像一段产品说明。语言层面的顺滑来得太容易,判断的重心也就很自然地被带偏:我们开始用“读起来对不对”替代“事实上对不对”。
流利是一种能力,不是一种证明
这类模型的基本工作是接续文本:给定前面的上下文,估计接下来该出现什么词。它学到的是语言里的搭配习惯与常见说法,而不是一份可以逐条核对的账本。于是当上下文缺失时,它更倾向于补上一个“通常会出现”的说法,而不是停下来告诉你这里它不知道。
后果是,错误常常长得和正确一样。含糊的地方被填平,缺失的环节被补全,语气始终平稳。人写东西会犹豫,会加一句“可能”,会留个问号;模型的犹豫更像措辞上的礼貌,而不是认知上的不确定。
真正花时间的是事后核对
把它放进流程,成本往往不在生成那一步,而在之后的确认。如果一段文字要逐句回溯来源,省下的时间很容易又被还回去。比较务实的定位是“草稿位”而非“定稿位”:
- 做结构性的活儿:把散乱要点归并成几段,把长文压成提纲,把同一段内容改写成不同语气。
- 提供候选而不是结论:给几个方向、几种说法,由人来挑。
- 凡涉及具体事实、时间、承诺与责任归属的句子,逐条回到原始材料。
这些做法并不新鲜,但写进流程,比反复提醒“它可能出错”有用得多。
它不知道自己不知道
一个容易被忽略的边界是:模型对自身输出的可靠性没有稳定感知。它可以用很确定的措辞表述,也可能在被追问后迅速改口,这两种表现都不构成证据。追问“你确定吗”,有时能换来修正,有时只是换来另一种同样流利的说法。
更稳的验证方式在外部:把结论拿去和文档、代码、现场情况对照,而不是在同一段对话里反复盘问。判断的依据应当落在模型之外。
换个角度看,生成式人工智能改变的或许不只是“谁写这段话”,还有“谁为这句话负责”。文字的生产变便宜了,核对的耐心反而更稀缺。愿意在顺滑的句子前停半拍,问一句“这是从哪来的”,大概就是现阶段比较实在的用法。