去机房看过一次的人大概都有印象：走廊里最响的不是机器，是风。机柜前面板冰凉，后面板烫手，中间隔着一段谁都不愿意细算的距离。谈配置的人常常从芯片型号讲起，运维的人先问的是这一排机柜还有多少电、地板下还能不能再塞一台。
这不是谁更专业的问题，而是同一件事的两端。算力在采购单上是一个规格，在机房里是一串约束条件。
先看电表
一块卡标称的功耗和它实际跑起来吃掉的电，中间隔着利用率。机器闲着的时候照样通电、照样占着机位、照样要空调兜底。所以同样一批设备，能不能把电费摊薄，取决于它有多少时间在做有效计算，而不是峰值能跑多高。
供电和散热是硬的：一个机柜的功率上限摆在那儿，超了就得改配电、换制冷方式，甚至重新规划整个房间的布局。这类改造成本不体现在芯片报价里，却一分不少地进入每小时的单价。
再看不那么显眼的那一段
把一堆加速卡连起来，掉链子的地方常常不在计算单元本身。数据要在内存和显存之间搬运，要在机器之间来回，带宽不够、延迟不稳，“算得快”就变成了“等得久”。不少训练任务的时间花在等待上，而不是花在乘加运算上。
这也是为什么单纯堆设备未必划算。互联的拓扑、存储的吞吐、调度软件是否聪明，决定了同样的硬件能榨出多少有效产出。规格表不会告诉你这些，只有真跑起来才知道。
空转比不够更常见
有些团队排着队等资源，另一些团队手里的机器大部分时间在等人。任务提交上去，环境没配好，数据没到位，脚本跑一半报错，机器就那样占着。这种空转不进任何报表，却实实在在消耗着电、机位和预算。常见的几种情形：
- 任务排队没有优先级，急的等慢的；
- 环境与依赖不统一，每次都要从头再来；
- 小任务独占整机，用不到的那部分也不释放。
所以调度层面的功夫价值常常被低估：能排队、能抢占、能按需缩容、能把小任务拼在一起跑，这些看起来不“硬核”的能力，直接决定了有效算力的密度。
也有不该谈它的场合
如果任务只是延迟敏感的小模型推理，或者把一段文本分类，把注意力放在更便宜的硬件、更小的模型、更好的缓存策略上，收益可能比加设备来得直接。工具要匹配问题规模，超出需求的配置最后只会变成折旧。
反过来，真正需要大规模并行的场景，讨论的也不该只是“多少张卡”，而是能不能稳定地跑满、跑久、跑出可复现的结果。
一个更朴素的问题
所以每次有人问“够不够用”，我更想问的是：这些机器一周里有几个小时在做有用的事？电、热、带宽、调度，这四件事里任何一件卡住，规格表上的数字就只是数字。算力从来不是买回来的一个定量，它是一段被使用效率重新定义过的区间。