2022年4月7日，全球權(quán)威AI基準(zhǔn)評(píng)測(cè)MLPerf?公布最新AI推理（Inference）V2.0榜單，浪潮AI服務(wù)器以最高性能獲得了數(shù)據(jù)中心（固定任務(wù)）的全部16項(xiàng)冠軍。

MLPerf?由圖靈獎(jiǎng)得主大衛(wèi)·帕特森（David Patterson）聯(lián)合頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立，是國(guó)際最權(quán)威的AI性能基準(zhǔn)評(píng)測(cè)，每年組織AI推理和AI訓(xùn)練測(cè)試各兩次，以對(duì)迅速增長(zhǎng)的AI計(jì)算需求與性能進(jìn)行及時(shí)的跟蹤測(cè)評(píng)。MLPerf?比賽通常分為固定任務(wù)（Closed）和開放優(yōu)化（Open）兩類任務(wù)，開放優(yōu)化能力著重考察參測(cè)廠商的AI技術(shù)創(chuàng)新力，固定任務(wù)則因更公平地考察參測(cè)廠商的硬件系統(tǒng)和軟件優(yōu)化的能力，成為更具參考價(jià)值的AI性能基準(zhǔn)測(cè)試。

本次是2022年MLPerf?的首次AI推理性能評(píng)測(cè)，旨在考察在各類AI任務(wù)中，不同廠商計(jì)算系統(tǒng)的推理速度和能力。本次評(píng)測(cè)中，在競(jìng)爭(zhēng)最激烈的數(shù)據(jù)中心（固定任務(wù)）賽道，共有926項(xiàng)成績(jī)提交，數(shù)量較上次比試翻倍，競(jìng)爭(zhēng)非常激烈。

浪潮AI服務(wù)器創(chuàng)推理性能新紀(jì)錄

本次MLPerf?AI推理性能評(píng)測(cè)涵蓋使用廣泛的六大AI場(chǎng)景，包括圖像分類、自然語(yǔ)言理解、語(yǔ)音識(shí)別、目標(biāo)物體檢測(cè)、醫(yī)學(xué)影像分割、智能推薦，每個(gè)場(chǎng)景采用最主流的AI模型作為測(cè)試任務(wù)，分別為ResNet50、BERT、RNNT、SSD-ResNet34、3D-Unet、DLRM。MLPerf?測(cè)試要求模型推理精度達(dá)到99%以上，對(duì)于自然語(yǔ)言理解、醫(yī)學(xué)影像分割和智能推薦3個(gè)任務(wù)則設(shè)置99%與99.9%兩種精度要求，以考察當(dāng)提升AI推理精度要求時(shí)對(duì)計(jì)算性能的影響。

為更加貼近實(shí)際應(yīng)用情況，MLPerf?推理測(cè)試在數(shù)據(jù)中心賽道下設(shè)置了離線（Offline）與在線（Server）兩種模式。離線模式代表任務(wù)所需所有數(shù)據(jù)都在本地可用，典型場(chǎng)景如大批量醫(yī)療影像樣本存于本地等待統(tǒng)一識(shí)別。在線模式則反映了大部分的即時(shí)AI應(yīng)用，其數(shù)據(jù)和請(qǐng)求以突發(fā)和間歇的方式在線送達(dá)，例如用戶在瀏覽購(gòu)物網(wǎng)站時(shí)智能推薦的推理請(qǐng)求。

浪潮AI服務(wù)器此次表現(xiàn)出色，以最高性能包攬了此次MLPerf?數(shù)據(jù)中心（固定任務(wù)）賽道的全部16項(xiàng)冠軍。

關(guān)鍵詞： 數(shù)據(jù)中心 自然語(yǔ)言理解 醫(yī)學(xué)影像 最激烈的 迅速增長(zhǎng)