AI 已进入十亿瓦级时代。全球最先进的 AI 工厂将数十万个 GPU 和 CPU 汇集在一起,赋能前沿模型训练与代理式 AI 驱动,并以前所未有的规模生成智能。在这个层面,网络成为推动 Token 生成的关键计算能力倍增器。
作为新的网络里程碑产品,NVIDIA Spectrum-6 是一款 102.4T 的以太网交换机,其容量是上一代的 2 倍,为 NVIDIA Vera Rubin 平台构建,即将在全球的十亿瓦级 AI 工厂中落地。Spectrum-6 驱动新一代 NVIDIA Spectrum-X 以太网平台,为运营 AI 工厂端到端计算系统提供所需的高带宽、规模扩展和智能。
包括 CoreWeave、微软、Nebius、SpaceXAI 和 Tesla 在内的全球领先 AI 基础架构构建商,率先采用 Spectrum-6 以加速其 AI 工厂建设。对于云服务提供商而言,Spectrum-6 意味着更高的计算能力可以作为统一的高性能资源运行,帮助客户更快地训练模型和部署推理服务。CoreWeave、微软和 Nebius 将成为首批使用 Spectrum-6 部署 NVIDIA Vera Rubin 基础设施的提供商,为广泛的开发者、初创公司和企业社区提供平台访问服务。
NVIDIA 指出,仅凭单个 GPU 峰值性能无法预测 AI 工厂的性能。大规模训练和推理工作负载依赖于数千个加速器,它们之间频繁进行数据交换,集合通信是跨 GPU 进行工作同步的基本操作,会产生密集的东西向流量。以太网最初主要用于企业应用,承载用户、服务器和存储之间的南北向数据流量,并非为超大规模 AI 的同步、集合密集型通信模式而创建,Spectrum-X 以太网则将以太网转变为高性能横向扩展网络。
Spectrum-6 交换机芯片与 NVIDIA ConnectX-9 SuperNIC 相结合,构成了新一代 Spectrum-X 以太网,与 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交换机、BlueField-4 DPU 和 Spectrum-6 以太网交换机一起,共同组成了 NVIDIA Vera Rubin 平台。Spectrum-6 支持可插拔和光电一体化封装两种规格,同时产品还支持液冷,支持整个 AI 工厂全面的端到端液冷方案,显著提高系统能效。
NVIDIA 表示,与通用以太网相比,Spectrum-X 以太网可提供高达 1.6 倍的 AI 网络性能,在超过 10 万个 GPU 的部署中保持高达 95% 的网络效率。硬件加速的 Spectrum-X 多平面拓扑可使数据中心所需交换机数量减少 40%,叠加 Spectrum-X 以太网硅光技术带来的能效提升 5 倍、平均无故障间隔时间提升 10 倍等优势,协同设计网络架构持续体现超越单一组件层面优化的应用加速。
WeChat
Profile