传统云基础设施是为可预测的通用负载与标准接口设计的。而智能体 AI 工厂需要将大量用户、智能体、应用、数据源与存储系统连接到大规模加速计算之上，单台服务器的带宽即达到多 Tb/s 级，必须依赖专用 DPU 才能满足线速网络、存储与安全处理。为此 NVIDIA 正式引入 Scale-In 网络基础设施，作为 AI 网络五大支柱（Scale-Up、Scale-Out、Scale-Across、Context Memory、Scale-In）中的第五个支柱。
Scale-In 将南北向网络演进为 AI 工厂内协调一致的基础设施域。它由 NVIDIA BlueField-4 与 DOCA 软件驱动，并通过 Spectrum-X 以太网互联：BlueField-4 提供独立于主机的加速与卸载处理，DOCA 提供统一的编程与运维模型，Spectrum-X 以太网承载接入与存储路径上的高性能连接。安全、多租户网络、数据与存储访问以及基础设施运维不再单纯依赖通用主机 CPU 上运行的软件，而是作为统一的基础设施域协同工作，让安全、数据访问与运维不会随着 AI 计算规模增长而成为瓶颈。
BlueField-4 将可编程控制面处理与加速数据面处理结合：64 核 Grace CPU 运行策略、供给、遥测与基础设施编排软件，计算能力较上一代提升约 6 倍；内联加速引擎以最高 800Gb/s 处理数据包、RDMA、存储协议、加密、防火墙规则与策略执行；LPDDR5X 内存子系统为基础设施软件提供高带宽数据与状态；PCIe Gen6 主机连接提供主机与基础设施处理域之间的高带宽通路。相比 BlueField-3，BlueField-4 提供 4 倍内存带宽与 2 倍网络带宽，可支撑更多并发服务、更大的策略与遥测数据集。BlueField Astra 则将可信控制从南北向扩展到东西向 Scale-Out Fabric：BlueField-4 安装并更新策略，ConnectX-9 在数据路径直接执行，形成跨接入与扩展域的闭环管控。
典型应用场景覆盖 AI 工厂的多个生产环节：基于 DOCA Host-Based Networking 构建隔离的 AI 工厂虚拟私有云，一套策略模型同时治理接入与 Scale-Out 流量；将安全执行点下沉到硅片，租户软件无法关闭或绕过，DOCA Argus 提供运行时威胁检测；通过 NVMe-oF、文件与对象存储协议加速外部存储访问，在 Spectrum-X 以太网上相比普通以太网可提供最高 1.45 倍存储吞吐；以 DOCA Platform Framework 完成节点发现、供给、服务部署与更新，缩短新算力上线周期；DOCA Telemetry 则提供独立于租户主机的网络、存储与服务健康可观测性。
Scale-In 把南北向网络变成数据接入、安全与运维的协调加速域，与连接 GPU 的 Scale-Up、连接服务器的 Scale-Out、连接分布式数据中心的 Scale-Across 以及提供共享 KV 缓存上下文的 Context Memory 共同构成智能体 AI 工厂的完整基础设施框架。只有数据接入、存储、安全与运维能力随 GPU、机架与数据中心同步扩展，加速计算的价值才能真正兑现为 AI 工厂的整体效率。
WeChat
Profile