(電子發(fā)燒友網(wǎng)報道 文/章鷹）2020年，疫情過后，我們看到隨著AI芯片的發(fā)展，智慧醫(yī)療、智能工廠、智能5G網(wǎng)絡(luò)優(yōu)化都已經(jīng)成為可能。AI是新基建里的重要部分，而芯片則是AI新基建發(fā)力的重中之重。在AI應(yīng)用的第一階段，應(yīng)用場景主要為訓(xùn)練和推理，在模型訓(xùn)練方面，算法模型需要對海量數(shù)據(jù)進行處理；隨著算法模型應(yīng)用趨于成熟，AI應(yīng)用步入第二階段，AI算力基建偏向于推理芯片的建設(shè)。AI芯片作為AI應(yīng)用落地重要支撐，出貨量與日俱增，但是對于行業(yè)的一些性能標(biāo)準(zhǔn)也急需要規(guī)范化。

8月8日，在2020全球人工智能和機器人峰會AI芯片專場上，地平線的聯(lián)合創(chuàng)始人兼技術(shù)副總裁黃暢博士，正式提出了面向芯片AI性能的MAPS測試方法。針對AI芯片落地應(yīng)用，黃暢也給出了前沿思考。

“縱觀深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)模型的發(fā)展演進，我們發(fā)現(xiàn)AI芯片面臨的一大挑戰(zhàn)，是算法演進速度遠(yuǎn)超硬件改進速度，致使評估芯片AI性能的方法與算法發(fā)展之間存在脫節(jié)的現(xiàn)象“，黃暢在演講中表示。

黃暢指出，最近四年間AI算法精度和效率持續(xù)提升，2016年，語音合成革命性突破，機器和人聲難以分辨計算量巨大，無法實時完成計算；2017年，WaveNet到Parallel WaveNet，計算效率提升1000倍，GPU可以20倍實時運行計算方式改變，RNN到Dilated CNN 產(chǎn)品化。2018年，計算方式變化，Dilated CNN到Sparse RNN，手機CPU（驍龍808）可用。

黃暢分享說，從2016年到2018年，ImageNet精度趨近飽和，2017年最后一屆競賽計算效率優(yōu)化得到重視，在圖像識別領(lǐng)域，出現(xiàn)新卷積Depthwise convolution, 該結(jié)構(gòu)和常規(guī)卷積操作類似，可用來提取特征，但相比于常規(guī)卷積操作，其參數(shù)量和運算成本較低。業(yè)界推出SENet、DenseNet等輕量級網(wǎng)絡(luò)，而且還出現(xiàn)了NASNet，網(wǎng)絡(luò)結(jié)構(gòu)自動搜索。這種技術(shù)導(dǎo)致第一次算法超越算法專家。2019年，EfficientNet（谷歌大腦）出世，震驚整個行業(yè)，其基準(zhǔn)網(wǎng)絡(luò)限定計算量，0.4GFLOPS，EfficientNet B0相對VGG19提升100%，每9個月翻番。

目前，業(yè)界尚缺乏一個與時俱進的，能夠有效評估芯片AI性能的標(biāo)準(zhǔn)。業(yè)界慣常使用的芯片評測標(biāo)準(zhǔn)有兩種，一是峰值算力，但峰值算力只反映AI芯片理論上的最大計算能力，而非在實際AI應(yīng)用場景中的處理能力，具有很大的局限性；二是目前行業(yè)較為知名的基準(zhǔn)測試組織MLPerf，其采用的模型少且更新速度滯后于算法演進的速度，無法及時反映算法效率的提升以及各種精度下芯片能夠達到的計算速度，因而無法描述芯片AI性能的全貌。

為了推動芯片AI性能評估方式與時俱進，地平線提出MAPS評測方法，為行業(yè)提供一個評估芯片AI性能的視角。“評估芯片AI性能，本質(zhì)上應(yīng)該關(guān)注做AI任務(wù)的速度和精度，即‘多快’和‘多準(zhǔn)’。”黃暢介紹說：“MAPS評測方法，關(guān)注真實的用戶價值，將每顆芯片在‘快’和‘準(zhǔn)’這兩個關(guān)鍵維度上的取舍變化直觀地展現(xiàn)出來，并在合理的精度范圍內(nèi)，評估芯片的平均處理速度。這個方法具有可視化和可量化的特點。”

作為 AI 領(lǐng)域的奧林匹克競賽，ImageNet 比賽產(chǎn)生了幾乎所有機器視覺中最重要的模型，它們在 ImageNet 上的精度可充分遷移到其他機器視覺任務(wù)（如物體檢測、語義分割等）。在 ImageNet 的主流精度范圍（75~80%）下，速度最快的模型所代表的點（由精度和幀率確定）所圍多邊形面積大小即為芯片處理ImageNet AI任務(wù)的能力大小，其公式為MAPS = 所圍面積 /（最高精度-最低精度）。在演講現(xiàn)場，黃暢還展示了MAPS評估方式在在ImageNet上的定義與主流芯片測試結(jié)果。

上圖為MAPS評估方式下主流芯片測試結(jié)果，右一折線為地平線最新一代芯片測試結(jié)果

黃暢指出，芯片AI效能三要素，主要是峰值算力、有效利潤率和AI算法效率的結(jié)合。算力部署在AI芯片上，根據(jù)架構(gòu)特點，解決一個復(fù)雜的問題，得到算法在芯片上的實際利用率，整體軟硬件架構(gòu)的整體功耗，2019年，AI算法在新卷積神經(jīng)網(wǎng)絡(luò)技術(shù)推動下，效率得到明顯提升。

黃暢舉例分析，他說：“自動駕駛或者機器人領(lǐng)域的話，輸入的數(shù)據(jù)是連續(xù)視頻，連續(xù)視頻之間有巨大冗余。那如何去利用這個冗余呢？算法就應(yīng)該做相應(yīng)的迭代，地平線采取的方法是把視頻序列當(dāng)成是一個流，然后用更高效的算法去有針對性的處理真正在這個視頻中有變化的，有價值的信息，面對越來越復(fù)雜的場景的時候，算法還有持續(xù)的巨大的提升空間。”

人工智能與產(chǎn)業(yè)的結(jié)合，也需要讓創(chuàng)造的價值真正體現(xiàn)出來。黃暢認(rèn)為，AI有很多應(yīng)用場景，大數(shù)據(jù)、醫(yī)療、金融，但地平線關(guān)注的是自動駕駛和自主機器人，比如最近地平線和新石器宣布達成戰(zhàn)略合作，雙方將面向低速自動駕駛場景開展深度合作，加速無人車的應(yīng)用落地和規(guī)模化運營。按照計劃，搭載地平線征程2芯片和感知算法的新石器無人車將于2020年下半年量產(chǎn)部署。中國是全球最大的物流市場，在疫情影響下，人們對無人車服務(wù)的社會價值認(rèn)知加強，這一領(lǐng)域，也是將地平線在AI芯片和算法領(lǐng)域的前沿探索轉(zhuǎn)化為賦能產(chǎn)業(yè)的落地實踐。

在汽車領(lǐng)域，地平線首先取得突破的是智能座艙，后續(xù)的采訪中黃暢指出：“長安的UNI-T車，采用了第四代人機交互系統(tǒng)，主動發(fā)起的人機交互系統(tǒng)，上面有很多蠻驚艷的東西，主持人用一個眼神便輕松喚醒了屏幕。” 據(jù)筆者了解，今年3月，長安汽車通過全球直播發(fā)布了主力新車 —— UNI-T，是首款搭載國產(chǎn)人工智能芯片的智能汽車，采用長安汽車和地平線聯(lián)合開發(fā)的智能駕駛艙 NPU（Neural Processing Unit ，神經(jīng)網(wǎng)絡(luò)處理單元）計算平臺，內(nèi)置中國首款車規(guī)級 AI 芯片——地平線征程二代，具備每秒 4 萬億次的算力。在征程二代的賦能下，長安UNI-T 可全方位實現(xiàn)車內(nèi)場景感知，并基于感知結(jié)果為用戶提供更精準(zhǔn)的智能推薦、智能車控等服務(wù)。一系列的落地結(jié)果是地平線鼓勵行業(yè)樹立對正確目標(biāo)的統(tǒng)一認(rèn)知，形成合力，更好地協(xié)同推動AI芯片產(chǎn)業(yè)發(fā)展。

作為邊緣AI芯片領(lǐng)導(dǎo)者，地平線擁有扎實的技術(shù)積累和領(lǐng)先的商業(yè)探索，也正是基于這兩點地平線提出了重新定義芯片 AI 性能的MAPS 評測方法。通過聚焦“快”和“準(zhǔn)”兩個關(guān)鍵評測維度，MAPS 關(guān)注真實用戶價值，可為市場動態(tài)、直觀的展現(xiàn)芯片 AI 性能，最終鼓勵行業(yè)樹立對正確目標(biāo)的統(tǒng)一認(rèn)知，形成合力，更好地協(xié)同推動AI芯片產(chǎn)業(yè)發(fā)展。

本文由電子發(fā)燒友網(wǎng)原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。如需轉(zhuǎn)載，請?zhí)砑游?a target="_blank">信號elecfans999。