有人把一份内部流程说明交给生成式人工智能,请它整理成操作清单。几秒后,屏幕上出现一份结构完整、语气笃定的答复:步骤清楚,注意事项齐全,连“如遇异常请联系管理员”都补上了。拿回业务里一对,才发现其中两条并不存在于原文,只是模型根据常见写法“顺”出来的。
这类偏差不剧烈,却足够麻烦。它不像系统报错那样停下来,而是用通顺的语言把空白填满。人一旦被格式说服,就容易跳过核对。
流畅表达与事实可靠之间,没有天然等号
生成式人工智能的基本工作,是根据上下文预测接下来更可能出现的词句。它擅长学习语言中的搭配、结构和语气,却不天然拥有“这句话是否发生过”的检查机制。当输入信息不足,模型仍会沿着概率继续写下去。于是,回答可能同时具备三个特征:语法正确、逻辑像样、细节存疑。
这不意味着它只会编造。在资料充分、任务边界清楚、输出可验证的场景里,它确实能承担整理、改写、归纳和草拟的工作。问题在于,使用者常把“能生成”误当成“已知晓”。前者是能力,后者需要证据。
追问“依据在哪里”,比换一个提示词有用
面对不确定内容,单靠调整提示词往往不够。提示词可以让回答更短、更具体,也可以要求模型标出不确定处,但它不能替代外部核验。更实际的做法,是把提问拆成可检查的环节:
- 先限定材料范围,明确哪些内容必须来自原文,哪些可以补充。
- 要求输出时区分“原文信息”和“推测内容”,不要把两者混在同一段里。
- 对关键结论保留出处位置或核对线索,方便回到原始材料。
- 把最终判断交给具体业务环节,而不是交给语言流畅度。
这些动作听起来琐碎,却能拦住不少“看起来对”的答案。它可以参与讨论,但不该独自承担事实确认。它更像一个反应很快的草稿合作者,而不是随身携带答案的权威。
把不确定留在界面上
有些团队会用生成式人工智能做知识问答入口。上线前,演示往往顺利;真正使用时,问题开始变长、变绕、带上前提条件。此时,界面若只给出一个光洁的答案框,使用者很难知道哪些部分有材料支撑,哪些部分只是模型补全。把“不确定”显性化,反而比追求每问必答更诚实:没有把握时给出范围,缺资料时提示补充,涉及关键决策时引导到人工确认。
这不是要给技术泼冷水,而是承认它的工作方式有边界。生成式人工智能越容易生成像样的文本,使用者越需要保留一点迟钝:先看依据,再看表达;先问缺什么,再问能不能写。能写出“不知道”的系统,未必更讨喜,但至少让判断有了落点。