上周有同事把一份会议记录丢给工具整理，几秒钟出来的纪要条理清楚，连待办都分好了人。他顺手追问一句：这条结论的依据是哪段发言？回答开始绕圈，先说“根据讨论内容”，再换个说法重复一遍，最后干脆把问题理解成“要不要我帮你润色”。
这个反差几乎每个用过的人都遇到过，但很少被认真对待。写得出周报，答不出一句“为什么”，这两件事其实出自同一套机制。
它做的是一件事：把下一个词猜得像
生成式人工智能的基本动作是预测接下来该出现什么词。给定前文，它算出一个分布，挑一个，接上去，再算下一轮。整个过程里没有“查证”这一步，也没有“我这样推对不对”的回看。它读过的文本里，解释性段落长什么样，它就照着那个样子生成解释性段落，包括那些其实没有解释力、只是看起来很像的部分。
所以流畅和正确是两回事。前者是它的设计目标，后者是副产品，能不能成立取决于你把什么任务交给它。
顺畅的文字会借走你的信任
人读东西有个省力的习惯：句子通顺、结构完整，就默认背后有人想过。这个习惯在多数场合帮我们节省时间，碰上生成式人工智能就有点危险。因为它补全的不只是句子。你把一段含糊的需求说给它，它会替你把没说清楚的地方填上一个合理版本，不提醒，也不追问，因为追问不在它的动作序列里。
由此带来的麻烦往往不是错得离谱，而是错得自然。一个你没写过的前提被顺手写进方案，一个记不清的日期被补成看起来最可能的那个，读起来毫无障碍，直到有人去核。
三类任务容易露出破绽
- 需要具体且较新的事实。它给出的细节可能像模像样，但来源经不起追问，冷门内容尤其要留意。
- 需要多步计算或长链条推理。中间任一步的偏差不会自己暴露，最后呈现的仍是一段平滑的结论。
- 需要判断“自己不知道什么”。它很少主动说明某个问题本身缺少关键信息，而是倾向于先给答案。
这三类之外，它在别处的表现确实省时间：把散乱的想法整理成结构、把一段话改到能读、给一个模糊方向列出几种走法。这些事原本要占掉半天，现在压缩成几分钟，代价是你得愿意自己收尾。
几条用起来顺手、也不容易翻车的习惯
- 先让它复述任务，看它理解成什么，再让它动手。
- 让它标出自己不确定的地方，不给“必须回答”的压力。
- 把输出一律当草稿，关键数字、日期、出处回到原始材料核一遍。
- 涉及判断的部分自己写，让它做整理和改写。
我倾向于把生成式人工智能看成写字很快、从不疲倦、但从不承担后果的助手。它能替你走完从想法到成稿的大部分路，剩下那点判断——这句话该不该说、这个数字对不对、这个思路符不符合实际情况——还留在人手里。被改变的是起草的成本，不是判断的成本。分清这两件事，用起来会踏实很多。