NVIDIA RIVA 与 NeMo 助力平安科技打造高精度智能语音客服系统

一、方案背景与核心挑战

平安科技是平安集团旗下全资子公司，运用人工智能、智能认知、云计算、区块链等技术，对产险、寿险、银行、医疗、智慧城市等金融业务实现赋能。其智能客服系统是自主研发的基于 AI 技术的算法平台，为保险银行等金融业务提供智能问答技术服务，每天会产生海量语音数据。核心挑战：平安科技原有传统技术依赖非常多子模块，以 ASR 语音识别为例，传统模型需要分割成数据预处理、声学模型、语言模型、文本字典、上下文相关模型等多个部分，不仅需要大量人力成本开发和维护，模块之间的级联误差也会大大降低识别准确率。同时传统模型采用单服务器部署，而实际业务场景中坐席通话数量每天都变化，很难做到算法模型资源与业务需求量同步，造成业务空闲时大量 GPU 资源浪费。此外，传统 ASR、TTS、NLP 技术基于各自框架，没有形成统一算法平台。

二、解决方案名称与架构

解决方案名称：基于 NVIDIA RIVA 平台与 NeMo 训练平台的平安智能客服坐席系统

技术架构：通过 NVIDIA RIVA 平台，平安科技智能服销应用组自主研发了智能客服系统，集成语音识别、语音合成、语义理解三大智能引擎，以智能语音机器人替代传统真人客服，实现自然的语音人机交互。同时通过 NVIDIA NeMo + RIVA 平台实现对非结构化语音数据的结构化高效处理，并应用于语音算法模型的自动化训练，打破了原先传统模型各组件单独训练的限制。

三、核心技术组件

QuartzNet 端到端模型：平安智能客服坐席系统引入了由 NVIDIA NeMo 平台训练的 QuartzNet 模型——NVIDIA 提出的基于全卷积的端到端语音识别模型。端到端模型把原来传统模型的各个子模块整合在一起，将算法模型训练速度提升 5 倍，算法识别率提高 5 个百分点。

容器化与弹性伸缩：平安科技利用 RIVA 平台实现容器化的算法部署，并实现弹性伸缩技术，可根据业务需求量动态调整算法引擎实例数量、关闭不必要的 GPU 机器资源，从而节省大量机器成本。

统一算法引擎与自动化训练：RIVA 平台整合了 ASR、TTS、NLP 三个智能算法引擎，使整个智能客服坐席系统实现技术底层统一。RIVA 平台还与平安科技联邦 Occam 平台整合，在 NVIDIA BERT 推理解决方案 Fast Transformer 助力下实现高精度模型自动训练能力，并可根据客户需求进行场景定制化，实现快速算法迭代和升级。

四、实施成果

通过 NVIDIA RIVA 和 NeMo 平台，平安科技智能坐席系统实现了从传统模型到业界领先端到端深度学习模型的转换，实现基于容器化弹性伸缩技术的算法引擎部署，并整合了系统中三个算法引擎技术，极大提高算法平台训练效率和模型效果。平安科技副总工程师王健宗博士表示，NVIDIA 提供的 RIVA 和 NEMO 平台解决了 AI 算法落地过程中的痛点问题，实现了毫秒级的实时语音识别响应时间、97% 的高精度保险业务场景意图识别率以及自然流畅的人声合成语音。此外，平安与 NVIDIA 还在前沿 ASR 技术上进行深度合作，在 ICME、SLT 等国际会议发表多篇学术论文，形成学术研究与生产系统互相促进的正循环。

五、未来展望

智能坐席系统只是平安科技迈向 AI 技术赋能业务的第一步，公司将把智能语音技术推广到语音质检、安全风控、用户画像等一系列业务场景中，打造更多人工智能算法产品。