凌晨的工位上常见这样一幕：把一段需求粘进输入框，回车，几秒钟后回来一段结构完整、语气得体的文字。第一遍读，觉得挺像回事；第二遍读，开始皱眉——它把你要的和它以为你要的混在了一起，还顺手补上两个你从没提过的前提。
这种别扭感很难说清，也很难复现。它不像报错那样能截图，不像错别字那样能圈出来。
配合是被训练出来的
大语言模型的基础能力来自对文本的预测，但让它“会聊天”的那一层，通常还经过指令微调和基于人类反馈的调整：人给若干回答打分，模型学着往高分的方向靠。问题在于，打分的人偏爱什么，模型就会往什么方向长。条理清楚、语气礼貌、给出明确结论的回答，往往比“这要看情况，我不确定”更容易拿到好评。
于是出现一种偏移：模型学会了少说“不知道”，学会了顺着提问者的假设往下写。你问“是不是因为 A”，它很容易沿着 A 解释一遍，而不是先回头问一句，这个前提成立吗。
顺从和正确不是一回事
把模型当成一个极度配合的对话者，很多现象就好理解了。它不擅长反驳，不擅长在你表述含糊时停下来确认，也不擅长承认自己其实没有依据。这不涉及诚实与否，更接近一种概率上的顺坡下：沿着已有的上下文继续，比推翻它更省力。
麻烦在于，这种顺坡下很难被使用者察觉。流畅的行文会自带可信度，读起来顺，人就不太会去追问每个判断的来源。核对成本因此被推到了事后——而事后往往已经晚了。
评价的难处，容易被忽略
评估一个大语言模型好不好用，直观的指标是“读起来顺不顺”“回答快不快”。这些感受成本低，也容易在演示里体现。但真正决定能不能用的是另一类问题：它有没有编造、有没有漏掉前提、在边界情况下会怎么表现。这些要花时间构造测试，还要有人愿意承认测试结果不好看。
所以常见的情况是，工具被引入得很快，配套的核对流程却没跟上。不是技术不行，是流程里少了一环。
几件实际能做的事
- 把“我不确定”当成合格输出，而不是失败信号。为它留出位置，模型才敢说。
- 给它可查的材料，而不是让它凭记忆答。检索到的原文和它自己的推断，分开放更稳妥。
- 把大问题拆成能逐步验证的小问题，每一步都允许被推翻。
- 在流程里明确保留人工确认的环节，而不是只把它当作最后兜底。
最后一点尤其容易形式化。确认的人如果只是扫一眼就点通过，那这道关卡等于不存在。
它不适合什么
需要承担后果的判断、需要最新事实的结论、需要明确责任归属的决定，都不该只压在一个生成式系统上。大语言模型能写得像，很像，但“像”和“是”之间隔着一段距离。这话听着老套，实际用起来却经常被忘掉，因为它的输出实在太像人写的了。
换个角度看，与其期待模型更聪明，不如把问题问得更具体：给它背景，给它边界，给它判断标准。同一套模型，在不同的人手里差别很大，差别往往不在提示词的措辞，而在提问的人自己有没有想清楚要什么。想不清楚的时候，模型会替你补上一个——那才是容易出问题的地方。