采风全网
达观天下

人工智能接进流程之后,麻烦的事才刚开始

演示阶段总是顺利的。一段杂乱文字丢进去,几秒后返回结构清晰的要点,会议室里有人点头。真正的考验出现在上线之后:这套东西要接进一张每天有大量留言的表单,输出给谁看、看错了谁负责、流程卡住时找谁,这些问题在演示时没人问。

难的不是让模型把话说通顺,而是让它的话被一个讲究确定性的流程接纳。

模型给的是概率,流程要的是状态

模型输出一段文字,本质是一连串对下一个词的判断累积起来的结果。同一个问题问两遍,措辞可能不同。而流程需要的往往是明确的状态:这条工单属于哪一类、要不要转给下一个环节、能不能直接归档。两者之间得有人写一层转换——固定字段、校验规则、异常兜底。

这层东西不好看,也不会出现在演示里,但它决定了人工智能在业务中是能站住,还是只活在试用期。讨论中常把这段工作叫“接入成本”,其实它更像把一句含糊的话翻译成流程听得懂的语言,翻译差一点,后面全歪。

省下的是操作,加上的是判断

效率叙事里常讲“自动完成”,但真正发生的变化往往是:人从执行者变成审阅者。以前是自己写,现在是看它写、判断能不能用。这个动作听着轻松,做起来不轻松——注意力要一直在线,而且错误的形态变了,从“慢”变成“错”,还带着一点说服力。

所以评估一件事该不该交给模型,我倾向于先问一个朴素的问题:它出错之后,下游有没有机会发现并纠正。能校验的环节,比如结构化提取、初步归类、按模板生成草稿,错了往往一眼能看出来,放进去风险可控。不能校验的环节,错了也像对的,那就得慢慢来。

边界不是技术画出来的

有些任务不适合,原因常常与技术无关。比如需要解释“为什么这么判断”的场合,一段流畅的输出反而把推理过程盖住了;比如错误代价不对称的环节,省下十分钟操作,换来一次返工,账算不平。这些判断没法靠模型能力提升来解决,只能靠对业务本身的理解。

回到那张表单。这套东西最后能不能用,不取决于回答得多漂亮,而取决于有没有人愿意为那些少数错误设计一条退路。人工智能进入流程的门槛,大概一直在这里。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:人工智能接进流程之后,麻烦的事才刚开始
文章链接:https://tech.cfdanews.com/ai/2244.html