2026.07.30
AI 集群架构
双轨 GPU 集群怎样避免“看似冗余”：网卡、交换机、布线与电源故障域设计
双端口只有落在独立设备和独立路径上，才可能形成可验证的双轨运行能力。
AI 集群架构 NEWS CENTER
结合训练、推理和存储业务，分析 InfiniBand、RoCE、Leaf-Spine 与 Rail-Optimized 架构的适用条件、产品组合和扩容路径。
-
2026.07.30
-
2026.07.30
AI 集群架构AI 训练网与存储网该合并还是分离：从流量、故障域和运维成本判断
共享 Fabric 可以提高资源利用率，独立网络可以缩小影响范围，选择取决于可验证的业务边界。
-
2026.07.29
AI 集群架构AI 推理集群南北向流量怎么设计：请求、模型加载与健康检查分开算
在线推理不只有用户请求，模型制品分发、遥测和健康探测也会在扩缩容时集中冲击入口与节点。
-
2026.07.29
AI 集群架构张量并行、流水并行与数据并行如何改变故障域：从重启范围反推放置策略
并行方式不只决定通信量，也决定一个进程或节点故障时要重启多少工作和重新读取多少状态。
-
2026.07.29
AI 集群架构Kubernetes 中 RDMA 资源怎么暴露：设备插件、网络附件与权限边界
Pod 看见 RDMA 设备只是起点，资源计数、网络接口、驱动与安全上下文必须指向同一数据路径。
-
2026.07.29
AI 集群架构训练数据预处理放 CPU、GPU 还是独立服务：先看队列与回压
预处理位置会改变数据复制、缓存、弹性和故障边界，GPU 等待不一定意味着应该把全部算子搬上 GPU。
常见问题 点击展开 收起
AI 集群应选择 InfiniBand 还是 RoCE？
需要结合训练或推理业务、GPU 规模、时延和扩展效率目标、现有以太网能力、运维团队经验、预算与交付周期判断，不能只比较端口速率。
GPU 利用率低一定是交换机性能不足吗？
不一定。常见问题还包括数据读取慢、CPU 或内存瓶颈、PCIe 与 NUMA 路径不合理、网卡位置错误、线缆或 FEC 异常，以及 NCCL 和 RDMA 参数没有对齐。
文章中的 Leaf-Spine 拓扑可以按端口数直接复制吗？
不能。正式设计还要核算节点数、每节点 GPU 和网卡数量、收敛比、故障域、Rail 划分、上联带宽、布线距离、冗余方式与后续扩容规模。
扩容规划应在什么时候开始？
应在首期设计时完成。交换机端口、机柜位置、光纤与配线、地址和路由、Rail 数量、管理平面以及电力散热都可能限制后续扩容。
WeChat
Profile