夜里巡机房，耳朵先被风扇声填满。门口贴着一张功率提示，值班的人隔一阵去看一眼配电柜。走廊白板上写着这几天要跑的任务，没人在上面写“算力”两个字——大家谈的是电、是温度、是这块卡什么时候能空出来。
峰值是几秒，账单是一整年
规格表上的数字，往往对应某个特定精度、理想散热、理想供电下的结果。它像汽车的最高时速：意义确实存在，但日常开车不会一直踩到底。训练任务里，加速卡大部分时间在等数据从显存搬进计算单元，或者在等另一张卡把中间结果传过来。真正拖住进度的，常常不是“算得不够快”，而是“没东西可算”。
采购时看的是峰值，运行后付的是电费、散热和等待。两者之间隔着一段很长的距离，而那段距离才是日常。
卡与卡之间，隔着内存和网络
把一批卡插进同一台机器，不等于它们能一起干活。模型并行时，卡与卡之间要不停交换中间结果；带宽不够，计算单元就会空转。显存也是同理——参数放不下，再多的浮点能力也用不上，只能切成更小的批次慢慢挪。不少团队最后发现，调优的方向不是加卡，而是把数据管道理顺、把通信量压下来。
这也是“算力”这个词容易失真的地方：它是一个数，而实际系统是一串相互牵制的环节，任何一环跟不上，整体就按最慢的那一环走。
利用率的分母是谁
看板上写着利用率，先别急着高兴或着急，得问一句分母是什么。是按整卡时长算，还是按有效计算时间算？一个只用到少量显存的小任务占住整张卡，账面上是忙的，实际是闲的。碎片化在集群里很常见：任务大小不一，排队策略又简单，卡就被切成一段段拼不起来的空隙。
调度做得好不好，很难写进采购清单，但它直接决定了同一批设备能跑多少活。
有些活，本来不需要堆卡
不是所有问题都值得上大模型。分类、抽取、格式校验这类任务，规则和小模型往往够用；重复查询的结果缓存下来，比每次重算便宜得多。把不需要的部分挡在外面，剩下的算力才留给真正吃紧的环节。这条边界一直在移动——模型能力在涨，硬件效率也在涨——所以它值得隔一段时间重画一次，而不是一次定终身。
电表不看你用什么精度
回到那间机房。电表不关心你跑的是训练还是推理，也不关心利用率曲线好不好看，它只记录瓦特。功率上限、散热余量、供电冗余，这些约束在采购时常常排在参数表后面，运行起来却最先说话。一台机器降频运行，账面数字一分没少，交付时间却往后拖。
所以看这套系统，最好把它当成一条链：供电、散热、显存、互联、调度、运维。数字可以印在宣传页上，链路只能在自己的机房里一段段试出来。等到风扇声成为背景音，人才会真正开始关心那些没写进规格表的部分。