
InfiniBand 端口显示 Active,只能说明链路能够工作,不一定说明协商到了设计宽度与速率。高速链路由多个 lane 组成,某一 lane 的信号或介质异常可能触发降宽、重训练或错误增加,业务仍能运行却出现吞吐下降和尾延迟。若巡检只看 up/down,这类隐性退化会持续很久。
验收应把期望速率与宽度写入逐端口基线,并持续记录实际状态、物理错误、符号错误、恢复次数和温度。发现降级后按照端口、线缆/模块、远端端口的顺序做单变量替换。维修完成不仅要恢复 Active,还要在目标宽度与速率下通过持续流量。
期望状态来自完整链路设计
为每条链路记录两端设备、端口模式、互连完整料号、期望速率和宽度。不同分拆或端口配置可能有合法差异,不能用一个全网值硬套。资产与监控使用同一数据源,发现实际值偏离就产生明确告警。
降级证据覆盖双端与时间线
同时采集两端端口状态、错误、重训练、模块或线缆诊断和变更时间。单侧计数可能无法定位发射或接收方向。保存计数器起点与采样间隔,避免累计历史错误被误认为当前仍在增长。
维修遵循单变量顺序
先检查插接、端面、弯曲、拉力和环境,再在维护窗口更换一项介质或移动到已验证端口。每次变化后清晰记录并复测,避免同时换端口和线缆导致根因丢失。涉及硬件质量或保修的结论交由正式流程确认。
恢复协商还需持续负载证明
链路重新达到期望宽度和速率后,运行单链路与多节点流量,观察吞吐、错误增长、温度和重训练。短时间无错不足以说明间歇性问题消失,测试窗口应覆盖热稳定和代表性业务压力。
同批次链路做群组排查
若同一机柜、线缆批次或设备区域出现多个降级,应比较共同环境和安装方式,但不能直接把相关性当根因。群组趋势有助于确定巡检优先级,最终仍通过逐链路证据和单变量复测完成闭环。
从试点到上线的检查项
- 为每条链路登记期望速率、宽度和完整互连组合。
- 同步保存双端状态、错误、诊断、重训练与变更时间。
- 按物理检查、介质、端口的单变量顺序定位。
- 恢复后运行达到热稳定的单链路与多节点负载。
- 分析同机柜、同路径和同批次趋势但保留逐链路结论。
把官方信息转化为验证条件
NVIDIA Networking 文档提供 InfiniBand 设备、Fabric 与诊断资料入口。
链路宽度、速率、恢复和错误解释取决于具体设备、固件、软件和互连组合。
具体功能、版本、兼容与部署条件请以NVIDIA Networking 文档的当前页面为准。官方系列信息用于建立候选范围,不能替代完整料号、目标平台支持清单和现场验证。
选型、验证与交付衔接
中科新远是 NVIDIA Networking Elite 合作伙伴。中科新远可结合 MQM9700、ConnectX 与 LinkX 逐链路清单协助建立宽度、速率、错误基线和单变量维修验收。具体合作范围和项目交付内容以当前有效资质、官方目录及书面确认结果为准。
InfiniBand 链路状态为 Active,是否可以排除物理层问题?
不能。链路可能在降宽或较低速率下保持 Active,也可能持续产生可纠正错误。应核对期望宽度、速率、双端计数和长稳负载。
WeChat
Profile