MLPerf最新发榜，浪潮AI服务器囊括数据中心推理全部冠军

　　2022年4月7日，最新全球权威AI基准评测MLPerf™公布最新AI推理(Inference)V2.0榜单 ，发榜服务浪潮AI服务器以最高性能获得了数据中心(固定任务)的浪潮理全全部16项冠军 。

　　MLPerf™由图灵奖得主大卫•帕特森(David Patterson)联合顶尖学术机构发起成立 ，器囊是括数国际最权威的AI性能基准评测 ，每年组织AI推理和AI训练测试各两次 ，据中军以对迅速增长的心推AI计算需求与性能进行及时的跟踪测评。MLPerf™比赛通常分为固定任务(Closed)和开放优化(Open)两类任务，部冠开放优化能力着重考察参测厂商的最新AI技术创新力  ，固定任务则因更公平地考察参测厂商的发榜服务硬件系统和软件优化的免费模板能力 ，成为更具参考价值的浪潮理全AI性能基准测试 。

　　本次是器囊2022年MLPerf™的首次AI推理性能评测 ，旨在考察在各类AI任务中 ，括数不同厂商计算系统的据中军推理速度和能力。本次评测中，心推在竞争最激烈的数据中心(固定任务)赛道 ，共有926项成绩提交 ，数量较上次比试翻倍，竞争非常激烈
。

　　浪潮AI服务器创推理性能新纪录

　　本次MLPerf™AI推理性能评测涵盖使用广泛的源码下载六大AI场景 ，包括图像分类 、自然语言理解 、语音识别
、目标物体检测 、医学影像分割 、智能推荐，每个场景采用最主流的AI模型作为测试任务，分别为ResNet50、BERT 、RNNT、SSD-ResNet34、3D-Unet
、DLRM 。MLPerf™测试要求模型推理精度达到99%以上，亿华云对于自然语言理解 、医学影像分割和智能推荐3个任务则设置99%与99.9%两种精度要求，以考察当提升AI推理精度要求时对计算性能的影响 。

　　为更加贴近实际应用情况
，MLPerf™推理测试在数据中心赛道下设置了离线(Offline)与在线(Server)两种模式 。离线模式代表任务所需所有数据都在本地可用 ，典型场景如大批量医疗影像样本存于本地等待统一识别。在线模式则反映了大部分的即时AI应用 ，其数据和请求以突发和间歇的方式在线送达，例如用户在浏览购物网站时智能推荐的推理请求。

　　浪潮AI服务器此次表现出色，以最高性能包揽了此次MLPerf™数据中心(固定任务)赛道的云计算全部16项冠军
。

　　本次MLPerf™测试中，浪潮AI服务器在ResNet50模型任务中创造了每秒处理449,856张图片的性能纪录，相当于仅用2.8秒即完成ImageNet数据集128万张图片的分类;在3D-UNet模型任务中 ，创造了每秒处理36.25张医疗影像的新纪录 ，相当于在6秒内完成对KiTS19数据集207张3D医疗影像的分割;在SSD-ResNet34模型任务中 ，创造了每秒对11,081.9张图片完成目标物体识别及定位的新纪录;在BERT模型任务中，创造了平均每秒完成38,776.7个问答的性能纪录，在RNNT模型任务中，创造了每秒将155,811段语音转为文字的源码库性能纪录 ，在DLRM模型任务中
，则创造每秒实现2,645,980次点击预测的最佳性能纪录
。

　　此外，本次MLPerf™评测还设有边缘推理赛道，浪潮面向边缘场景设计的AI服务器同样表现出色，在边缘固定任务赛道的全部17项任务中斩获了11项冠军 。

　　随着AI应用在各个行业中的持续深化，更快的推理速度，将带来更高的AI应用效率与能力,加速产业智能化转型
。服务器租用相比半年前的MLPerf™AI推理榜单V1.1
，浪潮AI服务器将图像分类、语音识别和自然语言理解任务的推理性能分别提升31.5%、28.5%及21.3%，意味着浪潮AI服务器在自动驾驶 、语音会议 、智能问答和智慧医疗等等场景中 ，能够更高效快速地完成各类智能任务 。

　　全栈优化能力助推AI性能持续提升

　　浪潮AI服务器在MLPerf™基准评测中的出色表现，得益于浪潮信息卓越的AI系统设计能力和全栈优化能力
。

　　本次参与测评的浪潮AI服务器NF5468M6J拥有出色的系统设计，以分层可扩展计算架构在业界率先实现对12颗NVIDIA A100 Tensor Core GPU的支持，并以极佳的性能成绩一举揽获12项冠军。浪潮信息也是本次MLPerf™竞赛中可以唯一提供服务器支持8颗500W NVIDIA A100 GPU的厂商，并实现了风冷及液冷两种散热方式。在此次参赛的8颗GPU NVLink高端主流机型中，浪潮AI服务器在数据中心16个任务中斩获14项最佳成绩 ，展现出在高端机型中的领先优势。其中 ，NF5488A5是全球首批上市的A100服务器 ，在4U空间支持8颗第三代NVlink互联的NVIDIA A100 GPU和2颗AMD Milan CPU。NF5688M6是面向大规模数据中心优化设计的具备极致扩展能力的AI服务器，支持8颗A100 GPU和2颗Intel Icelake CPU，支持多达13张PCIe Gen4的IO扩展卡 。

　　在硬件层面 ，浪潮AI服务器通过对CPU
、GPU硬件性能的精细校准和全面优化，使CPU性能、GPU性能 、CPU与GPU之间的数据通路均处于对AI推理最优状态;在软件层面 ，结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展;在深度学习算法层面 ，结合GPU Tensor Core 单元的计算特征
，通过自研通道压缩算法成功实现了模型的极致性能优化。

　　浪潮信息是全球领先的AI计算厂商，AI服务器市场份额全球第一 ，连续五年以超50%的市场份额稳居中国AI服务器市场第一。浪潮信息致力于AI计算平台、资源平台和算法平台的研发创新 
，并通过元脑生态携手领先伙伴加速数实相融。