
AI 工厂通常按所有 GPU 同时达到峰值的极端情况来预留电力,这个保护性缓冲在常态运行中会留下可观的闲置容量。NVIDIA DSX MaxLPS 通过策略驱动的动态功率共享,把同一获批预算内的余量重新分配给参与资源,官方给出的上限是让客户多部署 40% 的 GPU。
控制环由五部分组成:运维人员先梳理参与基础设施的拓扑,把节点划入带总预算的资源组;系统按 GPU、节点、机架与资源组采集功率遥测;策略层定义节点与组上限、分配优先级、预留需求以及维护或故障时的响应;当部分资源低于配额时,软件调整参与 GPU 的功率上限,把余量转给其他资源;最后持续校验是否越过电气与策略边界。
NVIDIA 与 Nscale 在其位于冰岛 Keflavík 的 Verne 园区做了联合评测,园区完全使用可再生能源。测试使用 NVIDIA Blackwell Ultra GPU、Kimi K2.5 FP4、NVIDIA Dynamo 与 TensorRT LLM,输入序列 8K、输出 1K,混合高吞吐与低延迟两类推理实例,总预留电力预算为 264.4 kW,负载分布在四个机架内。
静态基线使用 35 个四卡节点,共 140 张 GPU,运行两个各 52 GPU 的高吞吐实例与一个 36 GPU 的低延迟实例。DSX MaxLPS 配置使用 48 个四卡节点,共 192 张 GPU,在保留原低延迟实例的同时增加第三个 52 GPU 高吞吐实例,GPU 数量提升 37.1%。
实测结果:聚合吞吐从 1,084,503 tokens/s 提升到 1,618,443 tokens/s,增幅 49.2%;总实测功率从 166.2 kW 升至 198.9 kW,增加 19.7%;电力预算利用率从 62.9% 提升到 75.2%;每预留瓦特吞吐从 4.10 提升到 6.12 tokens/s/W。单个实例的吞吐基本不变,中位与 P75 延迟保持在基线 5% 以内,但 P99 首 token 时间增加了 17%。
这组数据说明动态分配并非“免费扩容”。可用余量取决于负载组合,互补的功率曲线比同时达峰更容易获益;尾延迟与遥测可靠性必须写入验收标准。NVIDIA 建议按五步推进:定义管理边界、建立代表性基线、保守引入策略、逐级扩容测试、设定生产运行上限。站点的配电、冷却、网络与机位仍需按验证后的目标容量规划,而不是只按首日上架数量建设。
WeChat
Profile