周三下午，一份四十分钟的会议录音被丢给模型，要求整理成纪要。十分钟后稿子出来了：分点清楚，语气得体，行动项还贴心地标了负责人。有人顺手转发。直到第二天，才有人发现“下季度再议”被写成了“已决定推进”。
这种错误不算新鲜，值得留意的是它出现的位置——不是模型明显露怯的地方，而是它写得顺、看着像样的那一段。AI大模型 的训练方式决定了它擅长续写连贯的文本，而不是判断哪句话该停。它没有“这里我不确定”的默认反应，只有把话说圆的惯性。
让它说“不知道”，比让它多说更难
实际使用中，这一点比能力上限更影响体验。模型给出的答案是从概率分布里挑出的一条路径，读起来通顺，但不等于有依据。要让它标注出处、区分“原文提到”和“推测补充”，通常得在提示里反复约束，甚至在外部再套一层校验。
这不是靠一句“请准确回答”能解决的。它更像流程设计：哪些环节允许模型自由发挥，哪些必须回到原文，哪些输出必须带引用。把这些写进规范，比换模型更见效。
真正花时间的地方不在第一次接入
接入本身越来越轻。调一个接口、贴几段示例，半天能跑通。麻烦在后面：上下文一长，前面定的规则会被稀释；模型版本一动，原来稳定的输出格式开始漂移；同一个提示词，今天给三段材料，明天给五段。维护的人得不断回头调，像照看一株对光照敏感的植物。
所以团队里通常会出现一个不太显眼的角色：整理提示词、维护示例库、记录哪些输入会出错，并记录它的出错方式。这个岗位不写算法，但少了它，工具用两个月就会被搁置。
判断标准不是“能不能做”
很多讨论停留在能力清单上：能不能读长文档、能不能写代码、能不能做多轮对话。但企业场景里更实际的问题是——如果它错了，代价由谁承担，多久能发现。在把这些任务交给 AI大模型 之前，先问一句出错之后会发生什么，往往比看演示更能说明问题。
- 草稿、初筛、格式转换这类任务，错了容易被看见，改起来也快，适合先让模型跑一遍。
- 涉及对外承诺、时间节点、数字结论的内容，模型可以作为起点，但需要有人逐条核对。
- 需要稳定复现、逐字一致的场合，反而不适合让它自由生成。
回头看那份纪要，团队后来加了一条简单规则：凡是出现决定、日期、金额的句子，一律回到录音里对一遍。这不是不信任工具，而是承认它是概率工具，输出的是“最像”的答案，而不是“最对”的答案。
AI大模型 真正改变工作的地方，也许不在它能替人做判断，而在它把那些重复、琐碎、又不值得人花整块时间的事情压缩掉了。省下来的注意力，用来核对、判断、承担责任——这部分，暂时还得自己留着。