2026.06.16
新闻中心
NVIDIA Dynamo 全栈优化：为智能体推理实现 97% KV 缓存命中率
编程智能体正在大规模编写生产代码Stripe 的智能体每周生成 1300+ 个 PR，Ramp 30% 的合入 PR 由智能体完成。
新闻中心 NEWS CENTER
查看新闻中心产品资料、规格与兼容性信息、选型建议、部署注意事项、测试验证与项目交付支持；选型时同步核对完整型号、接口、软件版本、供电散热、部署环境、生命周期与到货验收要求。
-
2026.06.16
-
2026.06.15
新闻中心NVIDIA Run:ai + NIM：智能调度实现 GPU 利用率翻倍
部署 LLM 的企业面临推理工作负载多样化的挑战一个小型嵌入模型可能只需几 GB 显存，而 70B+ 参数的大模型则需要多块 GPU这种差异往往导致 GPU 平均利用率低下、计算成本高昂且延迟不可预测
-
2026.06.15
新闻中心NVIDIA NIXL 开源发布：统一的 AI 推理分布式数据移动库
部署大语言模型需要大规模分布式推理，将模型计算和请求处理分散到多个 GPU 和节点上在此过程中，KV 缓存传输、激活值调度和存储访问等数据移动操作成为关键瓶颈。
-
2026.06.12
新闻中心分离式 LLM 推理部署：在 Kubernetes 上拆分 Prefill 与解码阶段
随着 LLM 推理工作负载日益复杂，单一的推理服务进程开始触及瓶颈Prefill 和解码阶段具有截然不同的计算特征，但传统部署方式强制它们在相同硬件上运行，导致 GPU 利用率低下且扩缩容缺乏灵活性。
-
2026.06.12
新闻中心NVIDIA TensorRT LLM AutoDeploy 发布：自动编译 PyTorch 模型为优化推理引擎
NVIDIA TensorRT LLM 让开发者能够为大型语言模型构建高性能推理引擎，但传统上部署新架构需要大量手动工作。
-
2026.06.11
新闻中心NVIDIA Dynamo Snapshot：将 Kubernetes 推理冷启动从分钟级降至秒级
在生产推理部署中，请求量随时间波动，需要推理副本弹性扩缩容。
常见问题 点击展开 收起
资讯中心的技术内容如何核验？
产品规格、软件版本、兼容性和性能结论优先依据厂商公开资料、版本文档与项目核验记录。缺少证据的配置不会写成确定结论，涉及具体环境时仍需结合设备型号和版本复核。
资讯文章中的架构可以直接用于项目吗？
不能直接照搬。文章提供的是设计思路和检查方法，正式方案还需要确认 GPU 与服务器规模、现网设备、网络体系、机房条件、软件版本、扩容目标和验收口径。
如何让中科新远协助核验兼容性？
请提供服务器和交换机型号、网卡或 DPU 料号、端口速率与形态、线缆距离、操作系统、驱动固件版本以及计划运行的业务或测试目标。
中科新远能提供哪些 NVIDIA 项目支持？
依托 NVIDIA Compute 与 Networking Elite 合作伙伴能力，中科新远可协助产品选型、BOM 核验、网络规划、PoC 测试、实施交付和验收准备；具体合作与交付范围以当前有效资质和项目确认结果为准。
WeChat
Profile