把开源模型的权重文件拖进本地目录，进度条走完那一刻，很多人会松一口气：模型到手了，剩下的似乎只是把它跑起来。真正的消耗往往从第二天开始——显存够不够，延迟能不能接受，出了错有没有人能解释。
拿到权重，只是拿到半成品
开源模型分发的通常是参数和推理代码，而不是一整套可交付的服务。决定用户体验的部分，大多在权重之外：批处理怎么排、上下文怎么截断、超时怎么兜底、日志留多少。这些不会随模型一起下载，得自己补。
我见过团队把同一份权重部署出完全不同的表现，差别不在模型，而在前面那层调度和后面那层监控。
三笔容易被低估的账
- 推理开销。请求量小的时候几乎无感，一旦并发上来，显卡占用和电费就变成固定支出，而不是按次结算。
- 人力。把模型跑通是几天的事，让它稳定运行是几个月的事，中间差的是值班、告警和排查经验。
- 数据回流。模型不懂你的业务词汇，需要有人整理样本、清洗、再喂回去，这部分工作量常常没进预算。
许可证读的是细节，不是标签
很多团队判断一个开源模型能不能用，只看名字里有没有“open”。实际上条款里写着商用范围、署名要求、用户规模触发条件，甚至改过之后要不要以同样方式开放。这些字句不显眼，但产品上线那一刻，它们决定法务能不能签字。动手之前完整读一遍，比事后补救便宜得多。
什么时候养，什么时候不养
如果需求是通用问答、调用量波动大、团队又没有专职运维，托管服务往往更省心；如果数据不能出内网、调用量相对稳定、还有明确的定制需求，自己部署开源模型才划得来。这不是技术先进与否的问题，是账算不算得过来的问题。
它会自己往前走
模型会更新，接口会变，依赖的推理框架也在改。今天跑通的配置，过一段时间可能要重新验证一遍。把这件事当成一次性项目，很容易在第一次升级时手忙脚乱；把它当成需要长期照料的组件，心态会完全不同。
开源模型真正给出来的东西，是选择权和可检查性——你能看到它在做什么，也能换掉它。代价是，这份自由需要有人负责到底。