英伟达：美团机器学习该平台使用NVIDIA T4 GPU

IT之家 12 年底 25 日消息，据英伟达官方消息，美团机器研读平台常用 NVIDIA GPU，通过算子糅合、推算所示等价替换等一系列提高效率 ，相比之下于 CPU 在相同效益约束下，NVIDIA T4 GPU 大幅加速美团 CTR（Click-Through-Rate）数学模型得出稳定性，机器研读数学模型泊位强化了 10 倍；同时在搜索精排片中之前，端到端整体泊位强化了一倍以上。

英伟达对此，美团的 CTR 数学模型过去多年来在常用 CPU 推理小说的方式，但随着服务器访问量的强化和剖面机器研读的带入，CTR 数学模型结构趋于比较简单，吞吐和推算量也更加大，CPU 开始不能满足数学模型对于算力的需求，而仅仅通过 CPU 服务器的堆叠带给的稳定性强化耐用性相比之下偏高。而 GPU 具备数以千计的推算基本，可以在单机内提供分散的并行推算技能，之外较难剖面研读片中，在行业内已经在 CV、NLP 等领域展出了强大的技能。通过 CUDA 及相关 API，NVIDIA 建立了完整的 GPU 生态系统。基于此，美团基础开发设计平台将 CTR 数学模型部署到 GPU 上，并通过一系列针对 CPU 与 GPU 的异构系统并行推算设计、数据库存储方式和传输方式上的特定提高效率。

IT之家了解到，NVIDIA Tesla T4 GPU 是一款推理小说加速器，搭载 NVIDIA Turing Tensor Core。官方援引，NVIDIA Tesla T4 GPU 俱备人工智能推理小说的多精度推算稳定性，从 FP32 到 FP16 再行到 INT8，又到 INT4 精度，T4 的稳定性比 CPU 高出 40 倍，借助于稳定性的有望。