朋友搬家，把一台用了五年的轻薄本留在我这儿。屏幕有一道浅划痕，电池撑不过一个下午，但键盘还干净。我重装了系统，想给它找个正经活干，最后决定让它跑一个开源模型。
从“能不能跑”开始
部署过程比想象中平淡。下载权重、装推理框架、选一个量化版本，命令行里滚动几屏日志，模型就开口了。没有账号，没有额度，也没有突然弹出的订阅提示。风扇转起来的时候，我意识到这台机器正在做一件几年前还需要机房才能做的事。
但“能跑”是个很低的门槛。问它今天天气，它答得头头是道；让它整理一段会议记录，它开始丢句子；再追问细节，它会用很自信的语气补上原文没有的内容。这种感觉很熟悉：它不是不懂，而是太想显得懂。
量化省下的是内存，不是判断力
为了让模型塞进有限的内存，量化几乎是绕不开的一步。把权重从高精度压到低精度，文件小了一圈，速度也回来了。代价藏在细节里：长一点的上下文容易断片，稍微绕一点的问题就开始糊弄。量化解决的是“装不装得下”，不解决“想不想得明白”。
我试过把同一个问题拆成几段问，再让它自己拼接。效果时好时坏。后来想通了，这不是模型的问题，是我在拿一台旧笔记本的算力去要求一个本不属于它的任务。工具没变，期待得调。
开源模型真正给的是什么
很多人把开源模型和“免费”画等号，这大概是一个常见的误会。权重公开意味着你可以把它搬到自己的机器上，断网也能用，输入的东西不出本地。对一个经常处理草稿和零散笔记的人来说，这种可控感比省下的订阅费更实在。
另一层好处是可替换。今天用这个架构，明天换那个尺寸，接口差不多，脚本改几行就能跑。没有迁移成本压着，人会更愿意试。试多了，才知道自己到底需要多大的模型，而不是被默认选项牵着走。
它不适合替你做决定
我把这台笔记本放在窗边，偶尔让它帮忙改一段拗口的句子，或者把一堆零散要点归成条目。它做得不算漂亮，但够用。遇到需要判断的事，我还是自己来。模型能给出看起来完整的答案，可完整不等于正确，流畅也不等于可靠。
开源模型把选择权交回使用者手里，同时也把判断的责任一并交了过来。装不装、跑多大、信几分，都得自己拿主意。这大概就是它和“开箱即用”之间最实在的区别。