采风全网
达观天下

当生成式人工智能开始“编造”答案,我们该信哪一句?

前几天有人问我,为什么同一个问题问两遍,生成式人工智能给出的答案会不一样,甚至第二遍还把第一遍说过的内容推翻了。这个问题听起来像技术细节,其实已经落到日常使用里:我们到底在拿它做什么,又愿意为它的输出承担多少核对成本。

流畅不等于可靠

这类模型的基本工作方式,是根据已有上下文逐段预测接下来更可能出现的表达。它擅长的是让文字读起来顺、结构看起来完整,而不是在每一次回答前都去查一遍事实。于是会出现一种情况:句子没有问题,语气没有问题,结论却未必站得住。过去人们把这种现象概括为“一本正经地胡说”,这个说法不够严谨,但描述的场景是准确的。

理解这一点之后,很多困惑会变得容易解释。同一个问题问两遍得到不同答案,并不一定是它在“改主意”,而是生成过程本身带有随机性;它把某个来源说得很确定,也不代表它真的核对过来源。对使用者来说,关键不是记住某个固定结论,而是判断这次输出的用途:是找灵感,还是当作可以引用的依据。

哪些场景需要多一道核对

如果把生成式人工智能当作写作助手,用来整理思路、改写语气、列出可能的框架,效率提升是直接的。这类任务的共同点是,结果最终要经过人来判断,错误也容易被发现。可一旦涉及具体数字、时间、条文、引用出处,情况就不同了。模型很容易把相似但不相同的信息拼在一起,读起来毫无破绽。

比较稳妥的做法,是把它产出的内容分成两类:一类是观点和表达,可以拿来参考;另一类是事实和细节,需要回到原始材料确认。这个划分听上去简单,做起来却需要习惯。很多人不是不知道要核对,而是在阅读流畅文本时,容易放下警惕。

提示词解决不了全部问题

常见的建议是“把问题问得更清楚”。这确实有用:交代背景、限定范围、说明输出形式,往往能让结果更贴近需求。但提示词改善的是匹配度,不是可靠性。一个问题问得再细,也不能保证模型掌握了你需要的那条具体信息。把提示词当成质量开关,容易高估它的作用。

另一种做法是要求它给出处。有些工具会附带检索能力,能列出参考链接;有些则只是根据训练中形成的模式作答。两者外观相似,实际差别很大。使用前搞清楚手里这个工具属于哪种情况,比反复调整措辞更有意义。

把它放在合适的位置

我倾向于把生成式人工智能看成一位反应很快、但需要复核的协作者。它适合承担初稿、发散、归纳、格式转换这些环节,不适合独自承担需要精确事实的判断。团队里如果要把它接入流程,最好提前约定哪些输出必须人工确认,而不是等到出了问题再补规则。

这并不意味着要对它保持敌意。工具的价值和它的边界是同时存在的。知道它在哪类任务上容易失手,反而能更放心地在其他任务上使用它。真正需要警惕的,是把流畅的表达误当成可靠的结论,然后省掉了本来该做的那一步核对。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:当生成式人工智能开始“编造”答案,我们该信哪一句?
文章链接:https://tech.cfdanews.com/ai/2083.html