曾經(jīng)很長一段時(shí)間里,業(yè)界都在談?wù)撌欠裼斜匾�設(shè)立AI基準(zhǔn)測試。如今看來,隨著人工智能對于算力的強(qiáng)烈渴求,如何發(fā)揮AI最大潛能、賦能數(shù)字化轉(zhuǎn)型正成為全行業(yè)最大挑戰(zhàn),以 MLPerf? 為代表的AI基準(zhǔn)測試的價(jià)值則愈發(fā)凸顯,在推動AI軟硬件發(fā)展、AI系統(tǒng)落地等方面發(fā)揮著重要作用。

近日,在最新的2021 MLperf? AI基準(zhǔn)評測里,英偉達(dá)、浪潮、英特爾、高通、阿里巴巴等17家業(yè)界頂尖廠商在42個(gè)賽道參與角逐,競爭極為激烈,最終結(jié)果卻呈現(xiàn)出一邊倒的情況: 浪潮獲得18項(xiàng)性能第一, 英偉達(dá)獲得10項(xiàng)性能第一,兩家廠商占據(jù)了70%的冠軍榜單,浪潮更是創(chuàng)造了中國公司在 MLPerf? 基準(zhǔn)測試中最佳成績。

有人說,計(jì)算產(chǎn)業(yè)正在加速從計(jì)算躍遷智算,從此次MLperf? AI基準(zhǔn)評測中,我們不僅看到了人工智能算力快速發(fā)展的一角,更讀懂了智算時(shí)代的未來。

MLPerf?測試為何愈發(fā)重要

毫無疑問,人工智能進(jìn)入到比拼算力的時(shí)代。專家直言,近年來人工智能對于算力的強(qiáng)烈渴求正在加速形成新摩爾定律,即在數(shù)據(jù)爆炸性增長和模型日趨復(fù)雜的驅(qū)動下,人工智能系統(tǒng)所需算力每3．43個(gè)月翻一倍。

例如,去年,OpenAI發(fā)布的超大模型GPT-3以1750億個(gè)模型參數(shù)、45TB預(yù)訓(xùn)練數(shù)據(jù)、最大96層數(shù)驚艷了世界。與上一代模型相比,GPT-3模型在各方面迎來了指數(shù)級的變化,對于算力的需求也呈現(xiàn)出指數(shù)級的增長。

與傳統(tǒng)服務(wù)器成熟的SPC等測試體系相比,AI基準(zhǔn)測試處于起步階段,卻在幫助AI開發(fā)者了解AI系統(tǒng)、開發(fā)AI系統(tǒng)產(chǎn)品、推動市場良性競爭和AI應(yīng)用落地方面發(fā)揮著重要作用,這也是 MLPerf? AI基準(zhǔn)測試近年來受到廣受業(yè)界關(guān)注的核心原因。

MLPerf? AI基準(zhǔn)測試大有來頭,由圖靈獎得主David ?Patterson聯(lián)合斯坦福、哈佛大學(xué)等頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立,近年來已經(jīng)有英特爾、英偉達(dá)、谷歌、亞馬遜、阿里巴巴、微軟、百度、浪潮等70多個(gè)知名企業(yè)和機(jī)構(gòu)積極參與,成為全球權(quán)威性最大、影響力最廣的AI性能基準(zhǔn)測試。

某種程度而言,MLPerf?在以可復(fù)制的、公平可靠的基準(zhǔn)測量方法推動機(jī)器學(xué)習(xí)行業(yè)和研究的發(fā)展,促進(jìn)AI系統(tǒng)之間的良性競爭與長遠(yuǎn)發(fā)展。例如,最新MLPerf? Inference V1．0基準(zhǔn),涵蓋了圖像分類、目標(biāo)檢測、醫(yī)療圖像分割、自然語言處理、語音轉(zhuǎn)文字和推薦系統(tǒng)6類AI應(yīng)用場景,分為數(shù)據(jù)中心和邊緣兩類處理場景,每類場景都包含固定任務(wù)(Closed)和開放優(yōu)化(Open)兩類性能競賽,對于AI系統(tǒng)在行業(yè)中的落地極富參考價(jià)值。

可以說,以浪潮為代表的中國廠商在此次MLPerf? AI基準(zhǔn)測試取得的成績極富含金量,標(biāo)志著中國廠商在AI算力的創(chuàng)新探索和系統(tǒng)產(chǎn)品落地方面走在了業(yè)界最前沿。

厚積薄發(fā),18項(xiàng)冠軍的背后

在本次MLPerf? AI基準(zhǔn)測試中,浪潮NF 5488A5服務(wù)器和浪潮NE5260邊緣服務(wù)器,分別斬獲數(shù)據(jù)中心場景11項(xiàng)冠軍和邊緣場景7項(xiàng)冠軍。

具體來看,在數(shù)據(jù)中心固定任務(wù)競賽中,一共有13家廠商提交了584項(xiàng)競賽成績,競爭極為激烈,浪潮NF5488A5在其中全部16條賽道中斬獲11項(xiàng)冠軍,在全部21項(xiàng)基準(zhǔn)測試中,浪潮同樣以11項(xiàng)獲得第一。

值得關(guān)注的是,NF5488A5屬于再次衛(wèi)冕“性能王”。作為業(yè)界率先實(shí)現(xiàn)500W 80GB A100GPU的液冷散熱AI服務(wù)器,NF5488A5在系統(tǒng)拓?fù)渖喜捎昧顺�低延遲設(shè)計(jì),并通過深度優(yōu)化系統(tǒng)結(jié)構(gòu)設(shè)計(jì),實(shí)現(xiàn)在高溫、高負(fù)載環(huán)境中穩(wěn)定運(yùn)行,將2020年MLPerf? DLRM的最高推理性能提升了23．4%,同比2019年MLPerf? Resnet50的單機(jī)最高推理性能提升326%。

浪潮NF5488A5衛(wèi)冕“性能王”

而在邊緣場景固定任務(wù)賽道中,一共有11家廠商提交326項(xiàng)競賽成績,競爭同樣異常激烈,浪潮NE5260首次亮相就一戰(zhàn)成名,斬獲7項(xiàng)目冠軍,在邊緣場景21項(xiàng)基準(zhǔn)測試中,同樣獲得7項(xiàng)第一。

浪潮NE5260 采用專門針對邊緣計(jì)算出行家的設(shè)計(jì),完美兼容CPU和GPU、FPGA等多種異構(gòu)加速器,在追求邊緣場景極致AI性能的同時(shí),打破物理空間限制,最大限度提升邊緣計(jì)算場景的部署體驗(yàn)。

此外,參與評測的NF5488 M6也收獲了同等配置跡象9項(xiàng)最好成績,居同類服務(wù)器性能幫助。

事實(shí)上,浪潮此次在MLPerf? AI基準(zhǔn)測試取得如此出色的成績,并不是為了打榜成績而做的“一蹴而就”行為,背后是其對于AI算力趨勢洞察、戰(zhàn)略布局、創(chuàng)新投入等長期積累的結(jié)果。

早在2016年AlphGo給世界一大彩蛋、AI計(jì)算方興未艾之際,浪潮就敏銳洞察到新型計(jì)算類型--智慧計(jì)算,認(rèn)為隨著AI技術(shù)的迅猛發(fā)展,物理世界數(shù)字化、數(shù)字世界智能化進(jìn)程進(jìn)一步加速,智慧計(jì)算也開始崛起。

為此,浪潮在2016年首次提出了“智慧計(jì)算”戰(zhàn)略,明確智慧計(jì)算的框架:以云計(jì)算為平臺、以大數(shù)據(jù)為認(rèn)知方法,以深度學(xué)習(xí)為優(yōu)化工具,三者相互促進(jìn)、相互融合、共同發(fā)展,衍生出一種新的計(jì)算類型為智慧計(jì)算。

此后,浪潮圍繞“智慧計(jì)算”戰(zhàn)略,不僅陸續(xù)提出“計(jì)算力就是生產(chǎn)力”、“人工智能是智慧計(jì)算的核心”、“智算中心”等先進(jìn)理念,還在AI產(chǎn)品創(chuàng)新和生態(tài)建設(shè)上也不遺余力,成為業(yè)界擁有最為廣泛和極富競爭力AI產(chǎn)品線的廠商,并且連續(xù)多年位列全球AI服務(wù)器市場第一。

“冰凍三尺非一日之寒”。浪潮斬獲MLPerf? 18項(xiàng)冠軍,看似是一次打榜的偶然,恰恰是浪潮智慧計(jì)算戰(zhàn)略長期執(zhí)行的必然。

從MLPerf?讀懂智算的未來

從MLPerf?最新榜單很難不讓人想到剛剛結(jié)束的浪潮IPF 2021大會。

隨著智慧場景在各個(gè)行業(yè)遍地開花,從計(jì)算到智算的變革正在加速,計(jì)算產(chǎn)業(yè)迎來新的格局,多元算力融合將成為關(guān)鍵,算力供給基建化將成為社會創(chuàng)新的支撐。為此,浪潮集團(tuán)首席科學(xué)家王恩東院士在本次IPF大會上直指三大艱巨挑戰(zhàn):計(jì)算場景復(fù)雜多元,訓(xùn)練模型巨大與應(yīng)用規(guī)模海量,產(chǎn)業(yè)鏈脫節(jié)與生態(tài)離散,需要在架構(gòu)、產(chǎn)品、生態(tài)進(jìn)行全面創(chuàng)新,來應(yīng)對智算多元化、巨量化和生態(tài)挑戰(zhàn)。

此時(shí)的浪潮,已經(jīng)不僅僅著眼于某些產(chǎn)品的創(chuàng)新,而是在積極構(gòu)建云腦生態(tài),聯(lián)合技術(shù)開放組織、部件上游廠商、模型數(shù)據(jù)伙伴等左手合作伙伴,以及智慧應(yīng)用伙伴、行業(yè)方案伙伴、平臺供應(yīng)商等右手合作伙伴,共同推動智算產(chǎn)品、技術(shù)的落地與應(yīng)用。

可以說,浪潮此次在MLPerf?霸榜,不僅是其長期致力于AI產(chǎn)品創(chuàng)新的成果,更是從計(jì)算到智算的產(chǎn)業(yè)躍遷中,新模式、新技術(shù)、新生態(tài)的結(jié)晶。

面對未來,隨著多元算力需求的不斷提升,計(jì)算產(chǎn)業(yè)真正進(jìn)入到創(chuàng)新大周期,無論是體系結(jié)構(gòu)還是產(chǎn)品形態(tài),都將迎來百花齊放的時(shí)代,聯(lián)合生態(tài)力量來加速AI在行業(yè)場景中的落地將成為必然之路。也正因?yàn)槿绱?浪潮堅(jiān)持多年的智慧計(jì)算戰(zhàn)略才顯得極富前瞻性和彌足珍貴。

相信在未來,在計(jì)算產(chǎn)業(yè)新模式、新生態(tài)的加持下,浪潮在AI算力上必定能不斷突破,再攀高峰。