把开源模型拉到本地跑通，通常只要一个下午：装好驱动，拉下权重，敲一行命令，屏幕上就开始一个字一个字往外蹦。很多人到这一步会生出一种错觉，觉得剩下的只是把它接到业务上。
拿到的是权重，不是产品
开源模型交付的核心是参数文件。围绕它要长出来的东西——推理服务怎么调度并发、上下文超长时怎么截断、请求超时之后怎么重试、出了问题从哪儿翻日志——都不在权重里。这些活不显眼，却决定了它到底是一个能用的系统，还是一场演示。
所以常看到一种落差：试用阶段评价很高，上线两周之后抱怨变多。问题多半不在模型答得对不对，而在响应忽快忽慢、长文本被悄悄截掉、失败请求没有兜底。这些属于工程，不属于模型。
成本没有消失，只是换了地方
调用外部接口是按次付费，自己部署是把钱提前花在显卡、电力和运维人力上。前者随用量走，后者在闲置时也照样烧。因此“哪个便宜”这个问题本身就问错了，该问的是用量曲线长什么样：长期稳定且量大的业务，自建可以把单位成本摊薄；验证阶段和波峰波谷悬殊的业务，租用带来的灵活度往往更值钱。
还要算一笔容易被忽略的账：人力。推理服务的稳定性需要有人盯，版本升级需要有人跟，这些时间成本在预算表上常常是空白。
评测这件事最容易骗到自己
拿公开测试集跑一遍分数，再据此决定用哪个，这个流程看着严谨，实际上很脆弱。测试集的题目有可能早就以某种形式出现在训练数据里，分数因此虚高；更麻烦的是，这些题目和你业务里真实出现的问题往往不是一回事。
更实在的做法是攒一批自己场景里真实出现过的问题，几十条就够，逐条人工看回答。这种做法不体面、不出图，但能暴露出分数盖住的东西，比如模型在特定格式上的固执，或者对某种表述的系统性误解。
许可证是一份需要真的读完的文档
不同开源模型的许可证，对商用、再分发、署名的要求差别不小，有的还附带使用场景上的限制。这些条款写在文档里，不会主动跳出来提醒。真到法务过问的时候，“大家都在用”不构成答案，能拿出来的只有那份读完并记录过的文本。
对准备长期维护的团队来说，把许可证要点整理成一页纸，比多做几轮对比测试更有价值。
有些场景，它并不合适
需要严格审计留痕、需要有人为输出承担责任、需要在出问题时找到明确对接方的场景，开源模型带来的自由反而变成负担——没有人替你兜底。承认这一点不是唱衰，而是把选择做在清楚的位置上。
开源模型真正的价值，是把能力从少数接口里释放出来，让团队可以自己决定怎么用、怎么改、放在哪里。但这份自由附带工作量，它不会自动兑现。下载完成的那一刻，交付的只是一块原料。