周三下午的会议室，投影上是一份刚生成的会议纪要。措辞齐整，条目清楚，连“待定”都替人补成了“下周确认”。坐在末位的同事小声说了一句：这话我没说过。屋里安静了两秒，然后大家笑了。笑完还是得有人打开录音，一条条改回去。
这类场面出现得越来越频繁，说明的问题其实很朴素——生成式人工智能很擅长把话说得像那么回事，但它并不天然知道哪句是真的。
流畅和准确，是两件不同的事
从机制上说，这类模型做的是根据上下文推测接下来更可能出现的词。这个目标练到极致，就能写出通顺、得体、结构完整的段落。但它被优化的方向是“像”，不是“对”。所以它给出的答案可能在语气上非常笃定，内容上却经不起追问。
这不是偶然的失误，而是原理带来的结果。理解这一点之后，用法会变。以前人们问它“这个说法对不对”，现在更该问它“这句话可能错在哪里”。前者是让它做判断，后者是让它提供思路——后者它更擅长。
把它放在流程的哪一格
一个实际的问题是：在具体的工作流程里，该把它摆在什么位置。摆在“出稿”那一格，风险落在最后；摆在“打草稿”那一格，风险前移，由人来收口。
比较稳妥的做法，大致是几条：
- 让它先出结构：提纲、分类、备选角度。这一步错了，改起来便宜。
- 涉及数字、时间、人名、条款的内容，一律回到原始材料核对。不是不信任，而是这类信息它无从验证。
- 保留“我不知道”的空间。提问时明确允许它说不知道，往往比逼它给出答案更有用。
- 交付前留一个人工确认的环节。这一步不该被流程优化掉。
这些做法听起来笨，但它们把模型的产出变成了半成品，而不是结论。半成品是可以用的，结论需要有人签字。
边界在哪
有些任务它确实顺手：改写、压缩、换语气、把散乱的记录整理成条目、给一段文字找逻辑漏洞。这些活的共同点是，判断标准在文本内部，读一遍就知道好不好。
有些任务它就不该独自承担：需要外部事实支撑的陈述、需要承担责任的判断、需要理解具体处境的决定。这时候生成式人工智能能提供的是选项，不是答案。把选项当答案，问题不在工具，在流程设计。
还有个容易被忽略的成本：校对。生成一段文字只要几秒，核对它是否可靠可能要几分钟。当产出速度远快于验证速度，瓶颈就从“写”转移到了“查”。很多团队用了工具之后反而更累，原因多半在这里——他们加快了前半段，却没有为后半段留出时间。
所以更现实的态度或许是：不要指望它替你做决定，也别因为它会犯错就不用。它更像一个记性很好、反应很快、但从不主动说“我不确定”的协作者。跟这样的人共事，办法不是不听他说话，而是知道他哪句话需要回头查一查。