NVIDIA 助力百度智能云落地新一代高性能 AI 计算集群：千亿模型训练效率提升 3.87 倍

一、方案背景与核心挑战

百度智能云是中国 AI 公有云服务市场的领先企业。随着 AI 发展，创新业务层出不穷、业务复杂性不断提升，大模型、超大模型成为必然趋势，对快速训练与部署应用提出了前所未有的紧迫要求。百度智能云早在 2020 年就预见到这一态势，启动规划与方案设计，并参考 NVIDIA 高性能分布式集群参考架构设计落地新一代高性能 AI 集群。核心挑战：超大模型训练对集群的算力密度、网络互联与扩展性提出极高要求，需要通过基础架构升级释放技术使能空间，帮助百度以及客户的业务创新更上一层楼。

二、解决方案名称与架构

解决方案名称：基于 NVIDIA A100-80GB GPU 与 InfiniBand 的百度智能云新一代高性能 AI 计算集群

技术架构：集群基于 NVIDIA A100-80GB GPU 和 NVIDIA InfiniBand 网络构建，提供 EFLOPS 级算力支持，并发布了新一代 GPU 服务器实例 GPU-H5-8NA100-IB01。研究人员可基于全新实例组建上千节点规模的超高性能计算集群，成倍缩短超大 AI 模型的训练时间。NVIDIA 提出的高性能分布式集群参考架构基于 A100 GPU 和 HDR 200Gb/s ConnectX-6 网卡组建，采用模块化设计，以 20 台为一个可扩展单元（Scalable Unit），可任意扩展到 100 台、200 台、400 台或更大规模，通过 InfiniBand 交换机采用胖树结构全互联。

三、核心技术组件

X-MAN 4.0 硬件平台：新一代集群采用百度自研的 X-MAN 架构超级 AI 计算机为硬件平台。X-MAN 自 2016 年推出以来，已在凤巢、自动驾驶、自然语言处理等百度内部业务大规模应用多年，申请六项专利，包括 PCIe Fabric 架构、液冷技术、最大支持 64 GPU 卡扩展等。X-MAN 已全面升级到第四代 X-MAN 4.0，每台包含 8 张搭载 NVLink 互联技术的 NVIDIA A100-80GB GPU，并可支持 8 张 200Gb/s 的 InfiniBand 网卡，实现高速存储、高速无阻网络、高性能计算于一体。其全新设计的架构缩短了数据传输延迟、提高了数据传输带宽，有效解决本地数据传输的通信瓶颈，降低 AI 作业中 GPU 的闲置时间；在 MLCommons 1.1 榜单中，X-MAN 4.0 在同配置单机硬件性能名列 TOP2。

超大规模 InfiniBand 网络：百度智能云专门设计了适用于超大规模集群的 InfiniBand 网络架构，优化网络收敛比、提升网络吞吐能力，并结合容错、交换机亲和、拓扑映射等手段，将 EFLOPS 级算力的计算集群性能发挥到极致。

四、实施成果

经过百度内部 NLP 研究团队验证，在该网络环境下的超大规模集群上提交千亿模型训练作业时，同等机器规模下整体训练效率是普通 GPU 集群的 3.87 倍。百度副总裁谢广军表示，AI 原生云是推动企业智能化升级的核心驱动力，X-MAN 4.0 在助力百度内部业务发展的同时，也愿意将这一领先架构开放给百度智能云的众多客户，帮助大家更高效地进行 AI 研发与探索、驱动业务创新。

五、未来展望

面向大模型时代的算力需求，AI 原生云基础设施将持续在算力密度、网络互联与调度效率上迭代，成为企业智能化升级的核心底座。