一个做文档解析的小团队，上个月把训练任务从自建机器迁到云上。单价确实降了，月底账单却没怎么动。他们一行行翻，发现网络流出、对象存储请求次数、以及为了等便宜时段而空转的预留实例，把省下来的那部分又吃回去不少。
账单上的数字不止芯片小时
谈到算力，人们习惯先看GPU小时单价。但实际跑起来，数据搬运、存储读写、调度失败重试、冷启动，都会进入账单。单价像门票，进场之后还有一堆按次计费的项目。跨区传输和请求次数，往往在预估之外；小团队预算薄，对这些零碎项更敏感，因为每一笔都不大，加在一起却难忽略。
利用率是另一本账
弹性伸缩听起来美好，前提是任务来得整齐。文档解析这类负载，白天忙、夜里闲，波峰波谷差得远。按量实例灵活，冷启动要等；预留实例便宜，闲置时照样扣费。利用率低的时候，单价优势会被摊薄。有些团队于是把常驻任务放回自建，把波峰丢给云端，账单才变得可读。采购时看峰值需求、使用时却是平均负载，这个错位在预算表上不容易显形。
有些任务不需要追着算力跑
不是所有AI任务都值得先扩集群。规则明确的批处理、小模型微调、数据清洗，瓶颈常常在数据质量和流程设计上，而不是在卡的数量上。训练和推理的节奏也不同：训练可以排队等资源，推理却要盯着延迟。先把样本整理干净、把失败重试压下去，可能比多租几台机器更管用。算力是资源，不是目标；匹配任务节奏，比单纯比单价更实际。
回到那个小团队，他们后来把任务分成常驻和波峰两类，分别放在不同环境里，账单终于能看懂。没有一套放之四海皆准的方案，只有愿不愿意把账拆开，逐项看。