有个做内容运营的人，上个月把生成式人工智能接进了选题流程。头两周他很兴奋：提纲出得快，标题一次能给十几个。第三周他换了说法——不是不好用，而是「得留一个人专门盯着它」。
这句话里藏着一个常被忽略的成本。工具本身不贵，贵的是后面那道人工复核，以及复核漏掉时留下的痕迹。
流畅是最容易骗人的部分
语言模型的输出，是一段在概率上「像」的文本，不是一次查证。它写出的句子通顺、结构完整、语气笃定，这几点恰好和「可信」在直觉上高度重合。人在快速阅读时很容易把流畅当成正确，尤其在时间紧、任务琐碎的场景里。
所以我更愿意把它看成一台草稿机：擅长把空白页填满，把模糊的想法铺成可修改的段落。它不负责确认这段话在事实层面站不站得住。
把不确定装进流程
工程上能做的事，其实不是让它变准确，而是让它的不确定变得可见、可控。常见的做法有几类：
- 把开放问题收窄成有边界的任务，比如给定材料做归纳，而不是让它凭记忆回答。
- 让它先给结构化结果——字段、条目、出处标记——再谈行文。
- 留一批固定的测试问题，每次换模型、改提示词都重跑一遍，看它在哪里开始跑偏。
- 把人工确认放在对外发布之前，而不是之后。
这些动作听起来不新鲜，做起来琐碎。真正花时间的往往不是调提示词，而是想清楚「这一步出错，代价有多大」。代价小的环节可以放宽，代价大的环节就得加卡点——这是流程设计问题，不是模型能力问题。
什么时候不该用它
有些任务天生不适合交给生成式人工智能：需要唯一确定答案且答案可被验证的、需要为每句话承担责任的、需要长期一致记忆的。它在发散、在改写、在把零散信息梳成可读结构上显得顺手；一旦要求它给出可追溯的判断，就得有人接住后半段。
还有一个更隐蔽的边界：当团队习惯了「先让它写，再改」，改动会越来越多地集中在表面措辞，而对内容本身的判断力在慢慢退化。这个变化不会立刻显形，几个月后才会有人发现，讨论变得很难推进——因为没人记得原始材料长什么样了。
回到开头那位朋友。他最后没有撤掉工具，只是把流程拆成了两段：机器负责把选项铺开，人负责删掉其中大部分。他说，删比写累，但删的时候人是清醒的。