有次帮朋友整理会议记录,他把两小时录音丢给一个AI大模型,让它提炼待办事项。结果出来了,条理清楚,可惜三条待办里有一条是会上已经被否掉的方案。他没细看就发进群里,十分钟后被人纠正。
这类小事正在变多。工具越顺手,人越容易跳过核对那一步。
它记住了什么,取决于你给了什么
大模型在一次对话里能“看到”的内容是有限的,业内常说的上下文窗口,指的就是这个范围。窗口之外的资料,它并不会自动知道,也不会主动告诉你自己漏了什么。对话越长,早期信息被稀释得越厉害,前面说过的约束条件,到了后面可能就淡了。
于是很多人开始外挂知识库:把文档切片、检索、再拼进提示里。这套做法有效,但也带来新麻烦。检索回来的片段可能是过时的,可能彼此矛盾,而模型通常不会跳出来说“这两段打架了”,它会顺着最像答案的那段继续往下写。拼接本身没错,错在默认拼进来的东西都是可靠的。
流畅和正确是两件事
语言模型的训练目标,本质上是让下一段文字更合理。合理不等于真实。一段话逻辑通顺、措辞得体、句式整齐,读起来让人放心,但这份放心来自文风,不来自事实。
所以我更愿意把AI大模型的输出当成草稿,而不是结论。草稿的价值在于省掉从零开始的那一步,而不是替你签字。改一封措辞别扭的邮件、把散乱笔记归成几类、从长文里抽出结构化字段,这些它做得确实顺手;一旦涉及需要实时事实、需要多步精确计算、或者责任必须落到具体人身上的事,它先天吃亏。
被忽略的那笔成本
还有一个容易漏算的地方:验证。写一段话可能只要十秒,核对它靠不靠谱可能要十分钟。当生成变得廉价,审阅反而成了瓶颈。不少团队试用一段时间后才发现,省下来的时间又被检查吃回去了一部分,只是这笔账没写进任何报表。
判断某件事该不该交给它,标准可以很朴素——如果做错了,代价由谁承担?代价越具体,越该保留人工那一道。改动一份对外发布的材料,和整理一份只给自己看的笔记,风险完全不同,处理方式也不该一样。
动手之前,先问自己三个问题:
- 我给它的是不是它真正需要的信息,还是让它去猜?
- 我有没有能力判断它答得对不对?
- 如果它错了,后果会落到哪里?
三个都答不上来,说明还没到用它的时机。
说到底,AI大模型更像一个读了很多书、反应很快、但不会为结果负责的助手。它值得被放进流程,但不该被放在流程的尽头。人留在哪个环节,从来不只是技术问题。