为了大规模生成智能，AI 工厂需要持续运行，其经济效益由交付的输出决定：每秒 Token 数、每瓦特 Token 数、每 Token 成本、利用率和正常运行时间。NVIDIA 指出，这需要将 AI 基础设施作为完整的工厂来设计和构建，而不是简单地将加速器堆积在一起。
构建定制 XPU 的超大规模企业和 AI 原生公司不仅要考虑 XPU 本身的设计，还要考虑整个 AI 平台的设计和开发，包括纵向扩展和横向扩展网络、整机架方案、生产工厂软件以及强大的供应商生态系统。面对 AI 工厂规模需求，这条路径既复杂又昂贵，成为 XPU 快速推向市场的根本性障碍。
NVIDIA 表示，NVLink Fusion 正是为满足这种需求而打造，将 XPU 连接到 NVIDIA 领先的 AI 基础设施，为半定制 AI 算力工厂提高性能、加快上市速度并降低风险。例如，NVLink Fusion 将 XPU 引入 NVIDIA NVLink 纵向扩展互连域，第六代 NVLink 提供领先的高带宽、低延迟网络实现 72 个 XPU 的互连域。与基于通用以太网的替代解决方案相比，XPU 到 XPU 传输的端到端延迟降低至三分之一，数据包速率提高 10 倍。
NVLink Fusion 还包含 NVIDIA NVLink-C2C 技术，可将 XPU 连接到 NVIDIA Vera CPU 或其他生态系统 CPU，能效最高可达 PCIe 接口的 6 倍，显著减少代理式 AI 系统在控制和计算之间的性能瓶颈。NVIDIA 强调，纵向扩展网络解决方案必须在交付性能、工厂可靠性和平台成熟度三个关键维度上表现出色，否则对于运行万亿参数模型、混合专家模型和代理式 AI 等现代工作负载，利用率就会显著下降，每 Token 成本也会上升。
在部署层面，采用 NVLink Fusion 的用户可以无缝使用 NVIDIA MGX 机架级方案以及与 MGX 系统相同的供应链。制造合作伙伴负责设计和集成，MGX 供应商则提供机架、散热、供电以及新兴的 800 VDC 等基础组件。此外，NVLink Fusion 与 NVIDIA DSX AI 工厂参考架构保持一致，实现建筑、供电、冷却、计算和网络的协同设计，NVIDIA Omniverse DSX AI 工厂 Blueprint 为十亿瓦级 AI 工厂提供了数字孪生及开放参考设计。
多家合作伙伴给出了评价。英特尔数据中心芯片工程副总裁兼总经理 Tim Wilson 表示，NVLink Fusion 让客户能够自由选择最能满足其工作负载需求的 CPU 架构、性能水平和软件功能。MediaTek 企业高级副总裁 Vince Hu 表示，该计划的价值在于客户可以先采用 NVIDIA GPU 部署机架级解决方案，然后再将 XPU 的开发解耦，以不同的节奏开发。亚马逊公司 Annapurna Labs 高级硬件开发经理 CC Lee 则表示，借助 NVLink Fusion 可以使用经过验证的 NVL72 机架设计来缩短产品上市时间。
WeChat
Profile