解决方案

SOLUTION DETAIL

NVIDIA 与 Google Cloud 扩展代理式与物理 AI:A5X 可扩展至近 100 万个 Rubin GPU

NVIDIA 与 Google Cloud 扩展十余年合作,推出由 Vera Rubin 驱动的 A5X 实例,可扩展至近 100 万个 Rubin GPU;单站点集群可容纳 8 万个 Rubin GPU。新一代平台每 Token 推理成本降至十分之一,每兆瓦 Token 吞吐提升 10 倍。

当前位置:首页 > 解决方案
NVIDIA 与 Google Cloud 扩展代理式与物理 AI:A5X 可扩展至近 100 万个 Rubin GPU
解决方案
SOLUTION OVERVIEW

NVIDIA 与 Google Cloud 扩展代理式与物理 AI:A5X 可扩展至近 100 万个 Rubin GPU

NVIDIA 与 Google Cloud 扩展十余年合作,推出由 Vera Rubin 驱动的 A5X 实例,可扩展至近 100 万个 Rubin GPU;单站点集群可容纳 8 万个 Rubin GPU。新一代平台每 Token 推理成本降至十分之一,每兆瓦 Token 吞吐提升 10 倍。

  • 方案分类 解决方案
  • 内容形式 场景方案 / 技术解析
  • 服务支持 咨询、测试申请、实施建议

如果你正在评估对应场景,我们可以基于当前方案继续细化产品组合、测试路径与实施节奏。

浏览更多相关方案
DETAIL MODULES

方案详情

查看方案背景、关键能力与适配场景,帮助你更快判断下一步应进入测试、咨询还是部署阶段。

NVIDIA Google Cloud 代理式物理 AI

方案背景:企业正把代理式 AI 和物理 AI 从实验室推向生产,需要大规模、低成本的 AI 基础设施。智能体要管理复杂工作流,工厂车间的机器人和数字孪生要实时运行,传统云实例在 GPU 规模、网络和单位 Token 成本上难以同时满足要求。

解决方案与架构:NVIDIA 与 Google Cloud 基于十余年合作扩展全栈 AI 平台。企业可以使用由 NVIDIA Vera Rubin 驱动的 A5X 实例,可扩展至近 100 万个 Rubin GPU;Google Distributed Cloud 上提供 Gemini 预览;还提供搭载 Blackwell GPU 的机密虚拟机,以及在 Gemini Enterprise Agent Platform 中利用 Nemotron 和 NeMo 的能力。

核心技术组件:方案覆盖从 Blackwell 到 Vera Rubin 的新一代基础设施,结合 Google Virgo 网络,单站点集群可扩展至 8 万个 NVIDIA Rubin GPU,多站点集群可进一步扩展;机密计算保护敏感数据;Nemotron 开放模型与 NeMo 框架支撑智能体开发、微调和部署。

实施成果:与上一代产品相比,新平台每 Token 的推理成本降至十分之一,每兆瓦的 Token 吞吐量提高 10 倍。企业可以在同一平台上运行代理式 AI、物理 AI 和数据分析工作负载,并通过机密 GPU 满足受监管行业的数据保护要求。

未来展望:双方将继续把 Gemini、Nemotron 和 GPU 基础设施结合,扩展 AI 工厂与边缘部署。随着单集群规模接近百万 GPU,云上 AI 基础设施的竞争将从单卡性能转向网络、能效、机密计算和单位 Token 成本的系统级优化。

EVALUATION CHECKLIST

方案评估清单

在进入报价、测试或实施前,先把业务目标、现网条件和风险边界整理清楚。

GOAL

业务目标

明确要解决的性能、扩容、稳定性、覆盖、互连或运维问题,并确认上线优先级。

NETWORK

现网条件

整理拓扑、服务器/交换机型号、接口速率、链路距离、供电散热和现有管理平台。

VALIDATION

验证范围

确认是否需要 PoC、兼容测试、吞吐测试、时延测试、无线覆盖测试或故障切换测试。

DELIVERY

落地边界

确认交付窗口、责任分工、备件策略、培训需求、验收指标和后续扩容路径。