在大规模 AI 工厂里，瞬态错误、链路退化和节点中断不是偶发事件，而是数学上的必然。训练时每块 GPU 每秒要完成上千次集合通信以同步梯度，推理时任何非计划停机都直接减少可服务的请求量。NVIDIA 认为，真正的无损网络是生产级 AI 基础设施的前提：一个丢包不应让推理延迟飙升，也不应打断一次训练集合操作。
Vera Rubin NVL72 通过 NVLink 6 把 72 块 Rubin GPU 连成单一 scale-up 域，作为一个计算单元工作。NVIDIA 把 NVLink 6 的可靠性设计成覆盖硬件、系统与软件的多层栈，目标是在源头检测、就地隔离并快速恢复瞬态信号错误，而不是依赖事后重试或单点补丁。
最底层是物理层。NVLink 使用轻量 FEC 在接收端直接重建被噪声破坏的比特，几乎不增加延迟；当错误突发超出 FEC 能力时，物理层重传（PLR）立即接管，在不惊动上层软件的情况下把丢包降到零；若链路严重退化触发 Link Down，UPHY 恢复会重新校准物理参数，期间数据包保存在硬件重放缓冲区，确保不丢数据。NVIDIA 称这套组合让 NVLink 6 相比通用以太网方案端到端延迟低 3 倍、包速率高 10 倍。
链路层的关键是信用流控（CBFC）。发送端只有在确认下一跳有缓冲空间时才注入数据包，从设计上消除丢包，也避免了以太网 PFC 常见的队头阻塞、PFC 风暴与死锁。若物理链路退化，链路管理器会自动做 access link 与 trunk link 的再平衡，把硬件故障限制在发生位置，不触发级联重传与集合通信停顿。
再往上，应用层提供约 1.5 秒完成的软件事务恢复。出错时 NMX 控制器与 GPU 驱动配合，把受影响链路置入“隔离并排空”状态，硬件自动重训而不破坏数据。控制面由 NMX-HA 托管，主节点故障时功能控制器可在数秒内迁移到另一块交换托盘；交换托盘数据面与运行 NVOS 的管理 CPU 完全解耦，即使 CPU 复位或系统崩溃，数据面仍持续转发。
最上层针对推理场景。NCCL 通信子与创建时的进程绑定，进程崩溃后无法直接移交，过去只能冷重启推理引擎，重新加载权重、编译内核、捕获 CUDA 图，往往中断服务数分钟。Dynamo 的影子引擎恢复会预先维持一个已初始化的空闲副本进程，提前建立自己的 NCCL 与 NIXL 通信子；主进程通信上下文被打断时，影子引擎可直接接管张量并行等分布式操作。在 B200 上的基准测试中，推理停机时间从 283 秒降至 7.3 秒。配合 CRIU 进程级检查点、Dynamo Snapshot 与 NCCL 的多节点 cuda-checkpoint 原型支持，长任务的状态保护也从分钟级压缩到秒级。
WeChat
Profile