周三下午，同事把周报粘进对话框，让它“润色一下”。返回的文字确实顺了，句子短了，语气也稳了，但有一处把上周没做完的事写成了已完成。他改回来花了差不多十分钟，比原来自己写还慢一点。
这不算工具的错，更像是它工作方式的必然结果。生成式人工智能输出的是“最可能接下去的那句话”，不是“已经核实过的那件事”。流畅和正确在它那里是两条线，偶尔重合，但不能当成同一条。
像模像样，往往比胡言乱语更难防
模型是在大量文本上学词与词的搭配规律，生成时一个字一个字地选概率上合适的接续。它没有翻台账的习惯，也没有“我不确定”的默认反应。于是出错的地方常常不是语法崩坏，而是数字整齐、术语准确、语气笃定——读起来毫无破绽，只有对照原始材料才能发现偏了。
成本也就发生了位移：写的那段时间省下来了，核对的那段时间加上去了。很多人只算前一半，后一半悄悄落在了下游的人身上。
核对这件事，最后还是会回到最懂的人手里
写纪要的人得逐条对录音，写注释的人得回读实现，起草对外说明的人得确认每一句承诺是否真能兑现。这些活看起来琐碎，却是整条链路上唯一能兜住错的地方。省下的时间如果不还给核对，等于把风险往后传了一手。
几个不算新鲜但管用的做法：
- 把生成结果当草稿，不当定稿，落笔前过一遍眼；
- 要求它在给结论时同时说明依据来自哪段材料，没有依据的地方单独标出；
- 涉及数字、日期、承诺的句子单独拎出来核，不和修辞混在一起看。
有些活它确实接得住
只讲风险也不公平。把散乱的访谈笔记归并成几个主题、把一段绕口的说明改顺、给一张表格配上说明文字、把长文压成三行摘要——这些事的共同点是判断标准外显，人扫一眼就知道好坏，改起来也快。
反过来，需要外部事实、需要组织内部的默契、需要有人为后果负责的部分，它接不住。有个粗糙但好用的判断：越靠近表达环节，它越稳；越靠近事实和责任，越要人守着。生成式人工智能在改写、归并、压缩这类动作上表现稳定，一旦被要求“确认”，就开始露怯。
提问方式比模型版本更影响结果
用得久了会发现，同一件事换个问法，差距比换一代模型还大。给出材料、限定范围、说清读者是谁、要求它把不确定的地方列出来——这些动作本身就是在逼自己先想明白要什么。抱怨输出空洞的时候，多数情况是输入里没有具体的东西。
还有一件容易被忽略的事：留下痕迹。哪句话是生成的、哪句改过、依据是什么，当时不记，过两周自己也想不起来。这不是流程洁癖，是万一出了问题还能往回追。
工具越像人说话，人越要留一点怀疑的习惯。生成式人工智能擅长把没把握的内容说得很有把握，这既是它的本事，也是用的人要补的那一课。