文档里多了一段文字，读起来比自己写的更顺。你往下滑，点头，然后在某个句子前停住——这个结论是从哪儿来的？没有人写过它，它就这么出现了。
这样的停顿正在变多。工具越顺手，停顿越容易被跳过。
通顺和正确，中间隔着一段距离
语言模型做的事，是按上文预测下一个词。它需要学的是论证的语气和骨架，而非论证本身。于是一段话可以连接词齐全、转折自然、结论笃定，中间却接了一个凭空补上的环节。麻烦不在于它写得差——写得差一眼就能看出来，删掉重写就好。麻烦在于它写得刚好够好，好到核对显得多余。
人的阅读习惯在这里帮了倒忙。判断一段文字可不可信，我们很大程度靠“读起来像不像那么回事”。这个直觉在人与人之间大致管用，因为写的人要为自己说的话负责；面对生成的文本，它失灵了。
省下的时间，记在另一本账上
衡量这类工具值不值，得把核对算进去。写草稿省了二十分钟，查证花掉半小时，账面是负的，但这笔支出分散在很多次微小的犹豫里，不会出现在任何统计中。更隐蔽的是，核对本身需要能力：你得先懂这件事，才看得出哪里不对。越是不懂的人用起来越省事，也越容易把错误原样带进下一环。
比较稳妥的用法，是从错误代价低、反馈快的地方开始：把拗口的说明改顺，把散乱的记录整理成条目，把长文档压成三句话看有没有跑偏。这些场景错了立刻能发现，也不会有人拿它去拍板。
没有被写下来的那部分
企业里真正管用的知识，很多从来没有落成文字。某句话不能这么对客户说，因为几年前出过事；某个数字对外只能给区间；某类反馈要先转给谁看一眼。这些默契活在人的记忆和习惯里，不在任何一份能拿去训练的文档中。人工智能学到的是被记录下来的部分，写出来的东西因此常有一种“正确但不懂事”的味道：格式挑不出毛病，分寸感是缺的。
把判断留在人这一侧
把人工智能放进流程，第一步可以先划出它不碰的地方，再决定它从哪里出力。几件值得定下来的事：
- 它的产出默认是候选，不是结论，下游环节要清楚这一点；
- 保留可追溯的底稿，能回答“这句话是从哪来的”；
- 流程里写明哪一步必须有人看过，并且给这一步留出时间，不把时间压到零。
责任没法外包。工具可以给出十个方案，签字的人只有一个。与其追问它还能替我们做多少，不如换个问法：哪些地方，我们仍然愿意自己签字。