一台闲置的服务器，几十 GB 权重文件，一行加载命令。几分钟后屏幕上开始一个字一个字往外蹦，速度不慢，语气也像模像样。很多人对开源模型的第一印象就停在这一刻——它能跑，而且跑得不差。
真正的问题从第二天开始：接进业务之后输出开始飘；换个说法问同一件事，答案就变了；想按自己的数据调一调，才发现显存不够、流程没搭、也没人说得清改完之后会不会更糟。
「开源」两个字底下，装的不是同一件东西
挂着开放权重名头的项目，拆开看差别很大。有的只给推理可用的参数，训练代码和数据都不见踪影；有的把训练脚本一并放出，但复现要的算力和数据得自己想办法；有的公布了数据构成，却拿不到数据本身。许可证的写法也各不相同，商用范围、再分发条件、衍生模型怎么命名，条款里都写着，只是很少有人从头读完。
所以面对一个开源模型，第一步不是下载，是先弄清它开的是哪一层。开的层次不同，你能做的事就不同：只能推理，就把它当黑盒用；有训练代码，才谈得上改结构；拿得到数据，才谈得上真正理解它的脾气。
省掉的是许可费，不是成本
开放权重最直接的吸引力，是不用按调用量付钱。但这笔钱并没有消失，只是换了个地方花：机器得自己买或租，推理要有人调优，输出质量要有人盯，上游发了新版本要不要跟、跟了之后回归测试谁来做，最后都落在人力上。对一个小团队来说，这些零散的投入加起来，未必比直接调用现成服务便宜。
差别在于这些成本是可见的、可控的。调用外部服务，账单清楚，但很多事情不由你决定；自己扛，账单模糊，可替换、可回滚、可以把某一段逻辑钉死在某个版本上。选哪条路，取决于你更怕哪一种不确定。
许可证里那几行小字
这大概是整个流程里最容易被跳过的一环。开放权重不等于随便用，常见需要确认的点有：
- 是否允许商业使用，门槛是注册、申请还是无条件开放
- 再分发时要不要附带原许可证、要不要保留特定声明
- 衍生模型的命名有没有限制，能不能继续沿用原名称
- 有没有附加的使用政策，哪些用途被明确排除
这些问题在项目页面上通常写得不算隐蔽，只是没人愿意在兴奋的时候去读。等到产品准备上线再回头翻，改动代价就大了。
公开评测分数和你的业务之间，隔着一段路
各类公开评测提供的是一个大致坐标，说明模型在某些标准化任务上表现如何。但你的业务分布不会长得像评测集：行业术语、内部缩写、特有的表达习惯，都是评测里没有的东西。凭分数选型，往往在接入后的头两周就被打回原形。
比较务实的做法是攒一小批自己的样本——几百条真实输入，配上人工确认过的期望输出，覆盖常见问法和已知的坑。这批东西不需要多精致，但它能把「感觉不错」变成「在这个场景里能过」。以后换版本、换参数、换提示词，都拿它过一遍，比任何排行榜都可靠。
什么时候值得自己扛
有三种情况，自托管的价值比较明确。一是数据出不了内网，任何外部调用都要走审批，那没得选；二是需要对模型做较深的改造，比如换掉输出格式、接进一套严格的校验流程，外部服务给不了这个自由度；三是行为必须长期稳定，不能因为服务方某次静默更新，整个下游链路跟着抖一下。
反过来，如果只是想在产品里加一个对话入口，数据敏感度不高，团队里也没有专职的人盯模型，那么把工程精力放在别处，可能是更划算的选择。
说到底，开源模型带来的不是「免费」,而是「可以把这件事拿回自己手里」。拿回来意味着自由，也意味着从此要自己承担判断。下载那一步太容易了，容易到让人误以为剩下的部分也会一样轻松。