2025.01.22
NVIDIA Blackwell 在 MLPerf Training v4.1 的 LLM 训练表现解读
随着模型规模的扩大以及使用更多数据进行训练,它们的能力也随之提升,实用性也随之提升。
查看新闻中心产品资料、规格与兼容性信息、选型建议、部署注意事项、测试验证与项目交付支持;选型时同步核对完整型号、接口、软件版本、供电散热、部署环境、生命周期与到货验收要求。
2025.01.22
随着模型规模的扩大以及使用更多数据进行训练,它们的能力也随之提升,实用性也随之提升。
2025.01.22
机密和自主的 AI 是一种新的 AI 开发、训练和推理方法,其中用户的数据是去中心化的、私有的,并由用户自己控制。本文将探讨如何通过使用区块链技术的去中心化来扩展 Confidential Compu
2025.01.22
华盛顿大学大气科学系教授 Dale Durran 介绍了一种突破性的深度学习模型,该模型结合了大气和海洋数据来设定新的气候和天气预报准确性标准。
2025.01.21
NVIDIA DOCA 通过为开发者提供全面的软件框架来利用硬件加速来增强 NVIDIA 网络平台的功能,从而提高性能、安全性和效率。
2025.01.21
随着 生成式 AI 重塑各行各业,对可立即部署的高性能推理的需求也在不断增长。 NVIDIA NIM 为 AI 模型推理提供生产就绪型微服务容器,不断提高企业级生成式 AI 性能。
2025.01.21
在本 博文 中,我们详细介绍了分块预填充,这是 NVIDIA TensorRT-LLM 的一项功能,可提高 GPU 利用率并简化开发者的部署体验。
产品规格、软件版本、兼容性和性能结论优先依据厂商公开资料、版本文档与项目核验记录。缺少证据的配置不会写成确定结论,涉及具体环境时仍需结合设备型号和版本复核。
不能直接照搬。文章提供的是设计思路和检查方法,正式方案还需要确认 GPU 与服务器规模、现网设备、网络体系、机房条件、软件版本、扩容目标和验收口径。
请提供服务器和交换机型号、网卡或 DPU 料号、端口速率与形态、线缆距离、操作系统、驱动固件版本以及计划运行的业务或测试目标。
依托 NVIDIA Compute 与 Networking Elite 合作伙伴能力,中科新远可协助产品选型、BOM 核验、网络规划、PoC 测试、实施交付和验收准备;具体合作与交付范围以当前有效资质和项目确认结果为准。