一句读起来没毛病的话
把一段需求丢进去，几秒钟后回来一段结构完整、用词妥帖的文字。这种体验很容易让人产生错觉：它读懂了。实际上，大语言模型在做的事情相当朴素——根据已有上下文，一个词一个词往下续，每一步挑一个概率上说得过去的选项。句子通顺是这件事的副产品；句子正确，则需要额外条件。
这些条件大致包括：问题在训练语料里有足够多相似表述，答案本身有相对稳定的写法，提问者把约束讲清楚了。缺一条，输出就可能滑向“看起来对”。
它很少说“我不确定”
人写东西卡住时会说这块我没把握。模型几乎没有这个动作。文本是连续生成的，中间没有一道独立于生成过程之外的关卡跳出来核查来源。于是“猜”和“知道”在纸面上长得一模一样，语气的笃定程度和事实的可靠程度之间，并不存在必然联系。
这不是性格问题，是训练目标决定的：它被优化的方向是生成合理的下一个词，而不是在不知道的时候停下来。
把一次请求的野心降下来
用得久了会发现，出问题的地方往往不是模型不会写，而是我把几件事捆在一起交给了它。把任务拆开，情况会好很多。
- 不说“帮我写份方案”，而是交代清楚读者是谁、要覆盖哪几块、哪些内容不许编。
- 让它把“材料里写的”和“我推断的”分成两段，哪怕只是分两行。
- 涉及具体数字、时间、条款，回到原始材料核对一遍，这一步不能省。
- 动手前先让它复述一遍要求，偏差常常在这里暴露。
这些做法都不新鲜，共同点是：判断标准留在我手里，模型只负责变形和整理。
它顺手的地方，往往不显眼
结构化整理、换个说法、把零散笔记变成条目、给一批命名找一致性——这类活儿它做得稳，因为对错由提问者判定，模型不需要自己立标准。一旦要求它先给出判断标准再作答，风险就上来了：标准可能是它顺手编的，而且编得很像那么回事。
边界不只在模型那一侧
大语言模型的能力边界，短期内大概不会只由规模决定。更实际的分界线在于，使用它的人愿不愿意多问一句“这句话的依据是什么”。工具可靠不可靠，从来不只是工具单方面的事。