NVIDIA T4 GPU 助力美团 CTR 预测服务升级：模型吞吐提升 10 倍

一、方案背景与核心挑战

美团是一家集生活服务及商品零售的电商平台，业务涵盖餐饮、配送、网约车、共享单车、酒店及旅游预订等 200 多个服务品类，覆盖全国 2800 个市区县，服务 6.7 亿活跃用户和 830 万活跃商家。CTR（Click-Through-Rate）模型作为推荐系统的核心模型，其效果直接影响业务收入。核心挑战：美团 CTR 模型过去一直使用 CPU 推理，但随着用户访问量提升和深度神经网络的引入，模型结构趋于复杂，吞吐和计算量越来越大，CPU 已不能满足算力需求，而单纯堆叠 CPU 服务器带来的性能提升性价比偏低。同时时延是业务侧高度重视的指标，许多复杂模型虽有更好准确度，却因响应时间不达标而无法落地。

二、解决方案名称与架构

解决方案名称：基于 NVIDIA T4 GPU 的美团 CTR 预测加速方案

核心技术：美团基础研发平台将 CTR 模型部署到 GPU 上，采用 NVIDIA AI 计算平台与 T4 GPU 提供预测支持，并通过一系列针对 CPU 与 GPU 异构系统的并行计算设计、数据存储方式与传输方式优化，充分发挥 GPU 并行算力。GPU 拥有数以千计的计算核心，可在单机内提供密集的并行计算能力，特别适合深度学习场景。

三、核心技术组件

算子融合与计算图优化：美团机器学习平台使用 NVIDIA GPU 支持多方面优化策略，通过算子融合、计算图等价替换等一系列优化手段，提高吞吐能力并降低响应延迟。相较于 CPU，在相同成本约束下，NVIDIA T4 GPU 大幅加速了 CTR 模型预测性能，神经网络模型吞吐能力提升 10 倍；在搜索精排场景中，端到端整体吞吐能力提升一倍以上。

时延敏感场景落地：以搜索框自动补全场景为例，由于其天然的交互属性，时延要求非常苛刻，通常难以使用复杂模型。在 GPU 能力加持下，复杂模型的平均响应时间从 15 毫秒降低至 6~7 毫秒，缩短一倍多，达到了上线要求。

四、实施成果

通过 NVIDIA T4 深度优化方案，美团 CTR 模型获得了更多应用机会，不仅极大提升了系统吞吐量，也进一步提升了整个模型训练的速度并降低训练成本，落实了 AI 框架在 GPU 上性能推理的优化实践。美团研发工程师、机器学习平台预测引擎负责人王新表示，在美团与英伟达的共同努力下，CTR 预测服务成功迁移到 GPU 平台，在为业务提供更好支撑的同时也获得了更好的性价比。

五、未来展望

美团机器学习平台计划采用 NVIDIA Triton 推理服务框架和 NVIDIA Ampere A30，进一步提升推理服务效率，持续推动推荐系统在效果、时延与成本之间取得更优平衡。