一、方案背景与核心挑战
丽蟾科技借助NVIDIA AI Enterprise打造高效AI训练与推理加速平台Leaper。核心挑战:传统AI开发流程中数据准备、模型训练到推理部署各环节割裂,GPU资源利用率不高,分布式训练通信效率低下,不同框架之间的兼容性差,导致AI项目的开发周期长、成本高。
二、解决方案名称与核心技术
解决方案名称:基于NVIDIA AI Enterprise的Leaper AI训练推理加速平台
核心技术:通过整合NVIDIA NCCL优化通信库支持大规模GPU集群分布式训练,解决多节点通信瓶颈。自动混合精度训练结合Hopper架构FP8精度计算实现更高性能和更低延迟。已全面整合NVIDIA NIM微服务,覆盖语音AI、RAG、数字生物学、数字人、大语言模型等领域。通过Leaper内的NVIDIA NIM,AI开发者可在几分钟内部署预训练AI模型。
三、行业应用
已在天体物理、生物信息学等科学研究,医疗图像分析,能源行业天气预测,制造业智能质检,零售电商推荐系统等多个行业验证。丽蟾科技董事长吴敏华表示,NVIDIA AI Enterprise是一套端到端的完整AI工具套件,通过丽蟾自研的Leaper将NVIDIA最先进的AI能力集成并传递给每一位客户。
WeChat
Profile