相信每個(gè)人可能都經(jīng)歷過這樣一種挫敗感——當(dāng)你拿起手機(jī)調(diào)出語音轉(zhuǎn)文字功能口述一封郵件時(shí)，卻發(fā)現(xiàn)手機(jī)并未聯(lián)網(wǎng)，無法使用這一功能。現(xiàn)在，隨著新一代邊緣人工智能芯片的問世，人工智能可直接嵌入各類設(shè)備當(dāng)中，將大大減少這種令人挫敗的情況發(fā)生。

我們預(yù)測(cè)，2020年邊緣人工智能芯片——執(zhí)行或加速設(shè)備內(nèi)，而非遠(yuǎn)程數(shù)據(jù)中心的機(jī)器學(xué)習(xí)任務(wù)的芯片或芯片部件——銷量將超過7.5億片，創(chuàng)造26億美元的收入。這一數(shù)據(jù)是德勤2017年預(yù)測(cè)3億片邊緣人工智能芯片銷量的兩倍以上，三年復(fù)合年均增長率高達(dá)36%。此外，我們還預(yù)測(cè)邊緣人工智能芯片市場將繼續(xù)加速發(fā)展，增長速度將超過芯片市場整體平均水平。至2024年，邊緣人工智能芯片銷量預(yù)計(jì)將超過——甚至可能遠(yuǎn)遠(yuǎn)超過——15億片，年銷量增長率將達(dá)到至少20%，是半導(dǎo)體行業(yè)整體長期預(yù)測(cè)9%的復(fù)合年均增長率的兩倍以上。

這些邊緣人工智能芯片很大可能將流向數(shù)量日益增長的消費(fèi)級(jí)設(shè)備，如高端智能手機(jī)、平板電腦、智能音箱及可穿戴設(shè)備等，同時(shí)亦將應(yīng)用于多個(gè)企業(yè)市場——機(jī)器人、攝像頭、傳感器及其他物聯(lián)網(wǎng)設(shè)備。兩者均是十分重要的市場。消費(fèi)級(jí)邊緣人工智能芯片市場規(guī)模遠(yuǎn)大于企業(yè)市場，但其增長速度可能相對(duì)較慢，2020至2024年的復(fù)合年均增長率預(yù)計(jì)將為18%。

企業(yè)級(jí)邊緣人工智能芯片市場發(fā)展時(shí)間雖然較短，直到2017年才出現(xiàn)首個(gè)商用企業(yè)級(jí)邊緣人工智能芯片，但增長速度更快，同一時(shí)段的復(fù)合年均增長率預(yù)測(cè)將高達(dá)50%。

至2024年，邊緣人工智能芯片銷量預(yù)計(jì)將超過15億片，甚至可能遠(yuǎn)遠(yuǎn)超過這一數(shù)據(jù)，年銷量增長率將達(dá)到至少20%，是半導(dǎo)體行業(yè)整體長期預(yù)測(cè)9%的復(fù)合年均增長率的兩倍以上。

無所不在：人工智能計(jì)算的廣泛覆蓋

直至最近，人工智能計(jì)算幾乎都只能通過數(shù)據(jù)中心、企業(yè)核心設(shè)備或電信邊緣處理器遠(yuǎn)程完成，而非設(shè)備本身。原因在于，人工智能計(jì)算極度占用處理器資源，需要成百上千個(gè)不同類型的（傳統(tǒng)）芯片來執(zhí)行運(yùn)算。而硬件的體積、成本及耗用功率決定了人工智能計(jì)算陣列不可能被放置于任何比手提箱還小的容器中。

如今，邊緣人工智能芯片徹底改變了這種局面。邊緣人工智能芯片體積更小，成本更低，耗用功率更少，產(chǎn)生的熱量更少，能夠集成于智能手機(jī)等手持設(shè)備以及機(jī)器人等非消費(fèi)級(jí)設(shè)備，使這些設(shè)備自身能夠執(zhí)行處理器密集型人工智能計(jì)算，從而減少或消除了將大量數(shù)據(jù)發(fā)送至遠(yuǎn)程位置的需要，極大提升了設(shè)備的可用性和速度，以及數(shù)據(jù)的安全性和保密性。

當(dāng)然，并非所有的人工智能計(jì)算都必須通過設(shè)備完成。對(duì)部分應(yīng)用程序而言，將數(shù)據(jù)發(fā)送至遠(yuǎn)程人工智能計(jì)算陣列進(jìn)行處理可能合乎需要，甚至是更優(yōu)選擇——比如當(dāng)數(shù)據(jù)量遠(yuǎn)遠(yuǎn)超出設(shè)備邊緣人工智能芯片的處理能力的時(shí)候。實(shí)際上，大多數(shù)時(shí)候人工智能計(jì)算均將采用混合方式：一部分由設(shè)備自身執(zhí)行，另一部分通過云完成。任何情況下的優(yōu)先組合方式均將取決于需要完成的人工智能計(jì)算類型。

在這里解釋一下“電信邊緣”的含義。電信邊緣計(jì)算——圖2所描述的“遠(yuǎn)邊緣網(wǎng)絡(luò)”——指由微型數(shù)據(jù)中心執(zhí)行的計(jì)算，這些微型數(shù)據(jù)中心位置盡可能與客戶相近，位于電信公司的土地上，由電信公司所有和運(yùn)營。它們目前采用與數(shù)據(jù)中心相似的人工智能芯片（體積大、成本高、功耗大），但隨著時(shí)間的推移可能會(huì)開始裝備本章所討論的部分同類型邊緣人工智能芯片（消費(fèi)級(jí)或企業(yè)級(jí)）。但是與邊緣設(shè)備計(jì)算不同，電信邊緣計(jì)算所使用的芯片位于電信公司網(wǎng)絡(luò)而非實(shí)際終端設(shè)備的邊緣。此外，并非所有電信邊緣計(jì)算都屬于人工智能智能計(jì)算。

據(jù)行業(yè)分析，2020年電信邊緣計(jì)算市場（包括人工智能的所有類型計(jì)算）的收入將達(dá)到210億美元，相比2019年的增長率將超過100%，同時(shí)2021年該市場預(yù)計(jì)還將以超過50%的增速繼續(xù)增長。這一市場各類別的精確細(xì)分并未向公眾公開，但分析認(rèn)為，2020年其人工智能部分預(yù)計(jì)依然處于剛剛起步的階段，收入規(guī)模不會(huì)超過10億美元，在電信邊緣計(jì)算支出總額中的占比亦不會(huì)超過5%。

消費(fèi)級(jí)邊緣人工智能：

價(jià)格亦可親民

2020年，無論在銷售數(shù)量和銷售額方面，消費(fèi)級(jí)設(shè)備市場均將占整個(gè)邊緣人工智能芯片市場超過九成的份額。這些邊緣人工智能芯片絕大部分將流向高端智能手機(jī)，當(dāng)前在用的所有消費(fèi)級(jí)邊緣人工智能芯片中超過70%均用于智能手機(jī)。這意味著在2020年及未來數(shù)年，人工智能芯片的發(fā)展將主要由智能手機(jī)推動(dòng)——智能手機(jī)的銷量以及采用邊緣人工智能芯片的比例均會(huì)影響人工智能芯片的增長。銷量方面的趨勢(shì)較為樂觀。在經(jīng)歷了2019年的低迷增長后（銷量同比下降了2.5%），2020年智能手機(jī)銷量有望達(dá)到15.6億部，與2018年銷量基本持平，增長2.8%。我們認(rèn)為，2020年智能手機(jī)市場將有超過三分之一的手機(jī)配備邊緣人工智能芯片。

采用邊緣人工智能芯片的設(shè)備并非只有智能手機(jī)，其他設(shè)備如平板電腦、可穿戴設(shè)備及智能音箱等亦將配備這種芯片（圖3）。短期內(nèi)，這些非智能手機(jī)設(shè)備對(duì)邊緣人工智能芯片銷量的影響遠(yuǎn)不及智能手機(jī)，原因是設(shè)備的市場沒有增長（如平板電腦），或是市場規(guī)模過小，難以產(chǎn)生實(shí)質(zhì)性影響（如2020年智能音箱和可穿戴設(shè)備的整體銷量預(yù)計(jì)僅達(dá)到1.25億臺(tái)）。然而，許多可穿戴設(shè)備和智能音箱均依賴邊緣人工智能芯片，因此其滲透率已經(jīng)是較高水平。

邊緣人工智能芯片絕大部分將流向高端智能手機(jī)，當(dāng)前在用的所有消費(fèi)級(jí)邊緣人工智能芯片中超過70%均用于智能手機(jī)。

智能手機(jī)邊緣人工智能芯片的經(jīng)濟(jì)分析

目前，僅價(jià)格最高的智能手機(jī)——即價(jià)格分布中排名前三分之一的手機(jī)——才可能配備邊緣人工智能芯片。盡管如此，部分價(jià)格低于1,000美元的手機(jī)亦配備了人工智能。一些由中國企業(yè)制造、配備人工智能的手機(jī)，如小米9等，在西方國家的售價(jià)甚至低于500美元。此外，如下文所述，智能手機(jī)配備人工智能芯片并不意味著其價(jià)格會(huì)令消費(fèi)者望而卻步。

智能手機(jī)邊緣人工智能芯片的成本計(jì)算雖然是一個(gè)間接的過程，但也可能得出較為可靠的預(yù)測(cè)。不能直接計(jì)算成本原因在于，智能手機(jī)的“人工智能芯片”并不僅僅只是將一片單獨(dú)的芯片安裝在手機(jī)里。如今的智能手機(jī)，厚度僅有七八毫米，內(nèi)部并沒有空間放置多個(gè)獨(dú)立的芯片。許多各類不同的必備功能（處理、圖形、內(nèi)存、聯(lián)網(wǎng)及現(xiàn)在的人工智能）均集成在同一被稱為系統(tǒng)級(jí)芯片應(yīng)用程序處理器的硅芯片膜上。“人工智能芯片”（若手機(jī)配備）指整片硅芯片膜中用于執(zhí)行或加速機(jī)器學(xué)習(xí)計(jì)算的部分，其制造材料與芯片的其他部分完全相同，亦采用相同的制造工序和工具。

它由數(shù)以億計(jì)的標(biāo)準(zhǔn)晶體管組成，但與芯片的常規(guī)處理或圖形部分的排列方式不同，即具有不同的架構(gòu)。該人工智能部分通常（并未總是）被稱為神經(jīng)處理單元。

邊緣人工智能芯片在中國

中國5G商用推進(jìn)，人工智能應(yīng)用場景較為豐富且受政府支持，前期優(yōu)秀的人工智能廠商及初創(chuàng)公司發(fā)展至一定規(guī)模，加速了產(chǎn)業(yè)鏈的成熟并催生了更多機(jī)會(huì)，人工智能邊緣計(jì)算將會(huì)是未來最重要的市場之一。國內(nèi)的人工智能公司正研發(fā)推出邊緣計(jì)算芯片，并與韓國等芯片制造強(qiáng)國的公司合作，提高高性能芯片的制造能力。相較于云計(jì)算，邊緣計(jì)算高效、安全的邊緣側(cè)數(shù)據(jù)處理能力吸引越來越多的老牌芯片企業(yè)、科技巨頭和初創(chuàng)企業(yè)成為市場參與者。

目前在中國，邊緣計(jì)算芯片最主要的市場仍為智慧安防領(lǐng)域，且落地應(yīng)用布局較為成熟。未來，隨著技術(shù)進(jìn)步及5G的全面鋪開，無人駕駛、智慧家居、智能交通、智能制造等領(lǐng)域可能迎來更大的增長空間。但邊緣計(jì)算芯片市場仍面臨挑戰(zhàn)，終端設(shè)備的電池容量有限，要求AI芯片的能效較低需具備更卓越的算力性能，才能更好的服務(wù)端的人工智能計(jì)算需求。而中國的基礎(chǔ)芯片制造存在短板，在制造和封裝、高速接口和集成電路IP核方面還需要技術(shù)積累和時(shí)間沉淀。

迄今為止，三星、Apple及華為三家公司已制作了其手機(jī)處理器的圖像，用于展示其硅芯片膜的所有功能，使分析人員能夠清楚看到芯片上用于不同功能的部分。如三星的Exynos9820芯片照片便顯示，整個(gè)芯片內(nèi)約5%的區(qū)域被用于人工智能處理器。三星整個(gè)系統(tǒng)級(jí)芯片應(yīng)用程序處理器的成本預(yù)估為70.50美元，是整個(gè)手機(jī)中成本第二高的部件（僅次于顯示屏），占設(shè)備材料總成本17%。假設(shè)人工智能部分的成本與芯片上的其他部件相同，Exynos芯片的邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器約占芯片總成本的5%，單片成本約為3.50美元。

同樣，Apple公司的A12仿生芯片將約7%的區(qū)域用于機(jī)器學(xué)習(xí)。整個(gè)芯片的成本預(yù)估為72美元，因此其邊緣人工智能部分的成本為5.10美元。華為麒麟970芯片成本預(yù)估為52.50美元，其用于神經(jīng)網(wǎng)絡(luò)處理器的部分占2.1%，因而成本則為1.10美元。（芯片膜區(qū)域并非衡量芯片總成本中人工智能成本占比的唯一方法，但據(jù)華為所稱，麒麟970的神經(jīng)網(wǎng)絡(luò)處理器含有1.5億個(gè)晶體管，占整個(gè)芯片全部55億個(gè)晶體管的2.7%。如此計(jì)算，其神經(jīng)網(wǎng)絡(luò)處理器的成本稍高，為1.42美元。）

雖然成本區(qū)間差異較大，但我們亦可合理地將神經(jīng)網(wǎng)絡(luò)處理器的平均成本假定為每片芯片3.50美元。盡管價(jià)格較低，這一數(shù)據(jù)乘以5億部智能手機(jī)的銷量（還未算上平板電腦、音箱及可穿戴設(shè)備），便是一個(gè)規(guī)模巨大的市場。更重要的，面對(duì)3.50美元的平均制造成本——最低甚至僅為1美元，是否在智能手機(jī)處理芯片中增加專用的邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器便成為一個(gè)無需考慮的問題。假設(shè)價(jià)格會(huì)上漲，制造成本增加1美元，但轉(zhuǎn)至終端客戶后的價(jià)格也僅增加不過2美元。這意味著即使是價(jià)格低至250美元的智能手機(jī)，亦可配備神經(jīng)網(wǎng)絡(luò)處理器及其附帶的功能——更優(yōu)化的攝像頭、離線語音助理等，而價(jià)格僅會(huì)上漲不到1%。

智能手機(jī)及其他設(shè)備制造商可采用不同方法獲取邊緣人工智能芯片，其決定主要受到手機(jī)機(jī)型和地域（有時(shí)候）等因素的影響。部分制造商從專門制造和銷售應(yīng)用程序處理器/調(diào)制解調(diào)器但不制造手機(jī)的第三方公司購買應(yīng)用程序處理器/調(diào)制解調(diào)器。高通和聯(lián)發(fā)科便是兩個(gè)著名的例子——2018年，這兩家公司在智能手機(jī)系統(tǒng)級(jí)芯片市場中的份額共達(dá)到了約60%。高通和聯(lián)發(fā)科均提供一系列價(jià)格不一的系統(tǒng)級(jí)芯片；雖然并非所有芯片均含有邊緣人工智能芯片，其高端產(chǎn)品通常都有配備，包括高通的驍龍845和855，以及聯(lián)發(fā)科的Helio P60。

另一方面，Apple公司卻并不使用外部應(yīng)用程序處理器芯片，而是使用自己設(shè)計(jì)的系統(tǒng)級(jí)芯片處理器，如A11、A12和A13仿生芯片，這些處理器均配備了邊緣人工智能。三星、華為等其他設(shè)備制造商則采用了混合策略，從外購市場硅芯片供應(yīng)商采購系統(tǒng)級(jí)芯片的同時(shí)使用自身設(shè)計(jì)制造的芯片（如三星的Exynos 9820、華為的麒麟970/980）。

邊緣人工智能芯片能做什么？

也許把問題改成“有什么是邊緣人工智能芯片做不到的？”會(huì)更貼切。如今，機(jī)器學(xué)習(xí)使各種技術(shù)能力成為現(xiàn)實(shí)，包括但不限于生物測(cè)定測(cè)定、面部檢測(cè)與識(shí)別、增強(qiáng)及虛擬現(xiàn)實(shí)相關(guān)的各類技術(shù)、趣圖過濾、語音識(shí)別、語言翻譯、語音協(xié)助……以及照片、照片、照片！從隱去皺紋到添加3D特效到實(shí)現(xiàn)超弱光攝影，邊緣人工智能硬件和軟件——而非鏡頭或感光元件的像素大小——已成為高端智能手機(jī)攝像頭實(shí)現(xiàn)差異化競爭的決定性因素。

雖然所有這些功能亦可通過未配備邊緣人工智能芯片的處理器甚至云技術(shù)實(shí)現(xiàn)，利用邊緣人工智能芯片執(zhí)行這些功能能夠顯著提升效率和速度，并減少功耗（從而提升電池壽命）。在設(shè)備內(nèi)執(zhí)行這些處理過程亦能夠保障隱私性和安全性——個(gè)人信息不離開手機(jī)便無法被攔截或?yàn)E用。同時(shí)配備邊緣人工智能芯片的手機(jī)，即使在未連接網(wǎng)絡(luò)的情況下亦能夠?qū)崿F(xiàn)所有這些功能。

企業(yè)級(jí)邊緣人工智能：

機(jī)遇誕生的沃土

如果智能手機(jī)和其他設(shè)備使用的邊緣人工智能處理器如此強(qiáng)大，為何不將他們用于企業(yè)級(jí)應(yīng)用程序呢？事實(shí)上，這早已出現(xiàn)在一些用例之中，如某些自動(dòng)飛行無人機(jī)。配備智能手機(jī)系統(tǒng)級(jí)芯片應(yīng)用程序處理器的無人機(jī)，能夠?qū)崟r(shí)完全在設(shè)備內(nèi)部執(zhí)行導(dǎo)航避障功能，而無需連接至任何網(wǎng)絡(luò)。

然而，針對(duì)智能手機(jī)或平板電腦進(jìn)行優(yōu)化的芯片并非許多企業(yè)級(jí)或工業(yè)級(jí)應(yīng)用程序的最佳選擇。這種情況與芯片制造商在上世紀(jì)80年代面臨的中央處理器狀況類似。當(dāng)時(shí)的中央處理器具有強(qiáng)大的計(jì)算能力和高度的靈活性，性能出色，是個(gè)人電腦這一多用途工具的絕佳選擇。

但是，將同樣的中央處理器用于諸如自動(dòng)調(diào)溫器等設(shè)備中，只為增加一點(diǎn)點(diǎn)智能，卻根本毫無意義。那時(shí)，中央處理器體積太大，無法裝入自動(dòng)調(diào)溫器狹小的空間中，同時(shí)功耗遠(yuǎn)遠(yuǎn)高于現(xiàn)在的水平，成本更是達(dá)到每個(gè)約200美元，對(duì)于總成本僅需20美元以下的設(shè)備而言太過高昂。為解決這此不足，一個(gè)完整的產(chǎn)業(yè)應(yīng)運(yùn)而生，生產(chǎn)出具備電腦中央處理器部分功能，但體積更小、成本更低、功耗更少的芯片。

且慢。如前所述，智能手機(jī)系統(tǒng)級(jí)芯片的邊緣人工智能部分僅占總芯片區(qū)域約5%，在總成本中僅占據(jù)3.50美元，同時(shí)功耗較整個(gè)系統(tǒng)級(jí)芯片低約95%。那能否僅制造具備內(nèi)存等少量其他必要功能的邊緣人工智能部分，從而使成本更低、耗電更少且體積更小呢？

一些企業(yè)已經(jīng)這樣做了，還有更多企業(yè)會(huì)參與進(jìn)來。例如，英特爾和谷歌目前正在向開發(fā)者銷售內(nèi)部開發(fā)的獨(dú)立邊緣人工智能芯片。英偉達(dá)是領(lǐng)先的圖形處理器制造商，生產(chǎn)通常用于數(shù)據(jù)中心人工智能加速的圖形處理器——體積大，耗電達(dá)數(shù)百瓦，成本亦高達(dá)數(shù)千美元。如今，該公司銷售的是定制化人工智能專用芯片（非圖形處理器），適用于體積更小、成本更低、功耗更少的邊緣設(shè)備。高通——領(lǐng)先的智能手機(jī)及其他消費(fèi)級(jí)設(shè)備外購市場內(nèi)置邊緣人工智能處理核心的系統(tǒng)級(jí)芯片制造商——也已發(fā)布兩款獨(dú)立的邊緣人工智能芯片，性能較其制造的系統(tǒng)級(jí)芯片更為強(qiáng)大，但成本更低、體積更小、耗電更少。華為亦是如此。

總體上，共有50家不同公司據(jù)稱正在研發(fā)各種類型的人工智能加速器。除27家從事專用集成電路芯片的企業(yè)外，現(xiàn)場可編程門陣列制造商亦提供邊緣人工智能芯片版本，用于數(shù)據(jù)中心以外的領(lǐng)域。2019年市場上的獨(dú)立邊緣人工智能芯片均面向開發(fā)者，他們基本是一次購買一片，每片價(jià)格約為80美元。購買數(shù)量達(dá)到數(shù)千或數(shù)百萬片時(shí)，設(shè)備制造商的采購成本會(huì)遠(yuǎn)低于此——有些低至1美元（甚至更低），有些為數(shù)十美元。現(xiàn)在，以智能手機(jī)邊緣人工智能芯片為例，我們假設(shè)平均成本約3.50美元。

上世紀(jì)80年代，中央處理器具有強(qiáng)大的計(jì)算能力和高度的靈活性，性能出色，是個(gè)人電腦這一多用途工具的絕佳選擇。

除價(jià)格相對(duì)較貴外，獨(dú)立的邊緣人工智能處理器具有體積小的優(yōu)勢(shì)。部分處理器甚至小到可以裝入U(xiǎn)盤之中，最大的亦可安裝于信用卡大小的主板上。這些處理器功耗相對(duì)較低，僅為1-10瓦。相比之下，一個(gè)性能十分強(qiáng)大、擁有16個(gè)圖形處理器和兩個(gè)中央處理器的數(shù)據(jù)中心組件成本高達(dá)40萬美元，重達(dá)350磅（約160公斤），功耗達(dá)到10,000瓦。

隨著這些芯片的應(yīng)用，邊緣人工智能可為企業(yè)開創(chuàng)更多新的機(jī)遇，尤其在物聯(lián)網(wǎng)應(yīng)用程序領(lǐng)域。利用邊緣人工智能芯片，企業(yè)可極大增強(qiáng)自身能力，能夠深入分析（而不僅僅是收集）來自聯(lián)網(wǎng)設(shè)備的數(shù)據(jù)，并將分析結(jié)果轉(zhuǎn)換為行動(dòng)，同時(shí)避免將大量數(shù)據(jù)發(fā)送至云端產(chǎn)生的高昂成本、復(fù)雜問題和安全挑戰(zhàn)。

人工智能芯片能夠助力解決的問題包括：

數(shù)據(jù)安全和隱私。數(shù)據(jù)的收集、儲(chǔ)存和向云端轉(zhuǎn)移會(huì)不可避免地使企業(yè)面臨網(wǎng)絡(luò)安全和隱私方面的威脅，即使在企業(yè)十分重視數(shù)據(jù)保護(hù)的情況下亦是如此。隨著時(shí)間的推移，這種極為重要的風(fēng)險(xiǎn)愈發(fā)需要企業(yè)高度重視予以解決。各國政府正不斷推出個(gè)人身份信息的相關(guān)法規(guī)，消費(fèi)者對(duì)企業(yè)收集的信息亦愈加警惕——有80%的消費(fèi)者表示并不認(rèn)為企業(yè)正在盡力采取措施保護(hù)消費(fèi)者的隱私。部分設(shè)備（如智能音箱）正逐步應(yīng)用于病人隱私監(jiān)管更為嚴(yán)格的醫(yī)院等環(huán)境之中。

通過在內(nèi)部實(shí)現(xiàn)大量數(shù)據(jù)的處理，邊緣人工智能芯片可有效減少個(gè)人或企業(yè)數(shù)據(jù)被攔截或?yàn)E用的風(fēng)險(xiǎn)。例如，具備機(jī)器學(xué)習(xí)處理功能的安全攝像頭可進(jìn)行視頻分析，確定具有相關(guān)意義的視頻片段，并僅將這些片段發(fā)送至云端，從而降低隱私風(fēng)險(xiǎn)。機(jī)器學(xué)習(xí)芯片亦能夠識(shí)別更為廣泛的語音指令，從而減少需要在云端進(jìn)行分析的音頻量。準(zhǔn)確度更高的語音識(shí)別還能帶來額外的助益，使智能音箱能夠更準(zhǔn)確地檢測(cè)到“喚醒詞”，從而避免聽取不相關(guān)的對(duì)話內(nèi)容。

低聯(lián)網(wǎng)要求。要將數(shù)據(jù)發(fā)送至云端處理，設(shè)備必須聯(lián)網(wǎng)。而在某些情況下，設(shè)備聯(lián)網(wǎng)并不現(xiàn)實(shí)。以無人機(jī)為例。基于無人機(jī)的運(yùn)行環(huán)境，設(shè)備可能會(huì)難以保持聯(lián)網(wǎng)狀態(tài)，同時(shí)聯(lián)網(wǎng)及將數(shù)據(jù)上傳至云端還會(huì)降低電池壽命。在澳大利亞新南威爾士，人們利用內(nèi)置人工智能的無人機(jī)在沙灘上巡邏，以確保游泳者的安全。這些無人機(jī)能夠識(shí)別被卷入激流的游泳者，或在他們受到鯊魚及鱷魚攻擊前向其發(fā)出危險(xiǎn)警告——這均在未聯(lián)網(wǎng)的情況下完成。

（超）大數(shù)據(jù)。物聯(lián)網(wǎng)設(shè)備能夠產(chǎn)生大量的數(shù)據(jù)。例如，空客A-350噴氣式飛機(jī)配備了超過6,000個(gè)感應(yīng)器，每飛行一天便能產(chǎn)生2.5太字節(jié)的數(shù)據(jù)。33全球范圍內(nèi)的攝像頭每天產(chǎn)生的數(shù)據(jù)高達(dá)2,500拍字節(jié)。若將這些數(shù)據(jù)全部發(fā)送至云端進(jìn)行存儲(chǔ)和分析，不僅成本高昂，操作也極為復(fù)雜。將機(jī)器學(xué)習(xí)處理器裝在端點(diǎn)（感應(yīng)器抑或攝像頭）便能解決這一問題。例如，攝像頭可配備視覺處理器——這是一種低功率系統(tǒng)級(jí)芯片處理器，專用于對(duì)數(shù)字圖像進(jìn)行分析或預(yù)處理。內(nèi)置邊緣人工智能芯片的設(shè)備能夠?qū)崟r(shí)分析數(shù)據(jù)，并僅向云端傳輸具有相關(guān)性的數(shù)據(jù)作進(jìn)一步分析，同時(shí)忽略其他數(shù)據(jù)，從而降低存儲(chǔ)和帶寬成本。

功率限制。低功率機(jī)器學(xué)習(xí)芯片甚至能使電池容量小的設(shè)備在不過度消耗功率的情況下執(zhí)行人工智能計(jì)算。例如，ARM芯片正逐漸應(yīng)用于呼吸器中以進(jìn)行數(shù)據(jù)分析，如吸氣肺容量和藥物進(jìn)入肺部的流動(dòng)等。呼吸器自身便能完成這種人工智能分析，并將結(jié)果發(fā)送至智能手機(jī)應(yīng)用，幫助醫(yī)療保健專業(yè)人員為哮喘病患者制定定制化的護(hù)理方案。除當(dāng)前可用的低功率邊緣人工智能神經(jīng)網(wǎng)絡(luò)處理器外，科技公司亦在開發(fā)“微型化機(jī)器學(xué)習(xí)”——設(shè)備上的深度學(xué)習(xí)，大小形同微控制器單元（類似于前述的系統(tǒng)級(jí)芯片，但體積更小，結(jié)構(gòu)較為簡單，功耗更低，僅消耗數(shù)毫瓦甚至微瓦電量）。例如，谷歌正在為TensorFlow Lite開發(fā)另一版本，以使微控制器能夠進(jìn)行數(shù)據(jù)分析，將需要發(fā)送至芯片外的數(shù)據(jù)壓縮至數(shù)個(gè)字節(jié)。

低延遲要求。無論通過有線還是無線網(wǎng)絡(luò)，利用遠(yuǎn)程數(shù)據(jù)中心執(zhí)行人工智能計(jì)算意味著將會(huì)出現(xiàn)至少1-2毫秒的來回延遲，這是最好的情況；最差情況下的延遲可達(dá)數(shù)十甚至數(shù)百毫秒。采用邊緣人工智能芯片在設(shè)備上執(zhí)行人工智能計(jì)算，可將這種延遲降低至納秒級(jí)——這在要求設(shè)備必須瞬時(shí)完成數(shù)據(jù)收集、處理并據(jù)此采取行動(dòng)的應(yīng)用情境下具有極其重要的意義。例如，自動(dòng)駕駛汽車必須通過計(jì)算機(jī)視覺系統(tǒng)收集和處理巨量的數(shù)據(jù)以識(shí)別周圍物體，并利用汽車內(nèi)置的不同感應(yīng)器控制汽車的各項(xiàng)功能。

自動(dòng)駕駛汽車必須立即將這些數(shù)據(jù)轉(zhuǎn)變?yōu)椴煌臎Q定——如何時(shí)轉(zhuǎn)變、剎車或加速——以確保汽車行駛的安全。（今天的自動(dòng)駕駛汽車采用各種不同的芯片實(shí)現(xiàn)這些功能，包括標(biāo)準(zhǔn)的圖形處理器以及邊緣人工智能芯片。）低延遲對(duì)機(jī)器人而言亦十分重要，且隨著機(jī)器人逐漸走出工廠與人類并肩工作，低延遲的重要性會(huì)愈加凸顯。

訓(xùn)練與推理的區(qū)別，以及對(duì)以數(shù)據(jù)中心為基礎(chǔ)的人工智能的意義

邊緣人工智能芯片所實(shí)現(xiàn)的人工智能更準(zhǔn)確的名稱是深度機(jī)器學(xué)習(xí)。它由兩個(gè)部分構(gòu)成。第一部分是訓(xùn)練。訓(xùn)練需要重復(fù)不斷地分析大量歷史數(shù)據(jù)，從這些數(shù)據(jù)中檢測(cè)不同的模式，并針對(duì)這種類型的模式檢測(cè)生成算法。第二部分是推理。在推理中，經(jīng)過訓(xùn)練過程產(chǎn)生的算法（常通過進(jìn)一步的訓(xùn)練不斷更新和調(diào)整）被用于分析新的數(shù)據(jù)，挖掘有價(jià)值的結(jié)果。

直到最近，機(jī)器學(xué)習(xí)軟件的所有訓(xùn)練和推理還使用同一標(biāo)準(zhǔn)的芯片——中央處理器、圖形處理器、現(xiàn)場可編程門陣列以及專用集成電路的混合。這些芯片體積大，成本高，功耗大，還會(huì)釋放大量熱量；因此，基于這些芯片打造的硬件均安放在數(shù)據(jù)中心之中。相比之下，本章所討論的邊緣人工智能芯片主要或只執(zhí)行推理任務(wù)，所采用的算法則通過數(shù)據(jù)中心的訓(xùn)練產(chǎn)生。雖然一些邊緣人工智能芯片亦執(zhí)行訓(xùn)練任務(wù)，但大部分訓(xùn)練仍舊主要在數(shù)據(jù)中心完成。

有趣的是，雖然過去數(shù)據(jù)中心芯片同時(shí)被用于訓(xùn)練和推理，我們?nèi)缃窨吹剑瑪?shù)據(jù)中心芯片的發(fā)展正呈現(xiàn)出不同的特點(diǎn)，部分芯片的優(yōu)化側(cè)重于訓(xùn)練，而部分則側(cè)重于推理。38這種相對(duì)較新的發(fā)展將會(huì)產(chǎn)生何種影響尚未明確。但一個(gè)可能的趨勢(shì)是，隨著邊緣人工智能芯片的崛起，當(dāng)前數(shù)據(jù)中心訓(xùn)練和推理處理組合將逐步向重訓(xùn)練、輕推理轉(zhuǎn)變。若真如此，這種專用的數(shù)據(jù)中心芯片尤其有助于提升靈活性，使正在經(jīng)歷訓(xùn)練和推理重心轉(zhuǎn)變的數(shù)據(jù)中心相應(yīng)地調(diào)整自身硬件組合。

小 結(jié)

誰將從邊緣人工智能芯片市場的增長中受益呢？很明顯，這對(duì)邊緣人工智能芯片的制造企業(yè)而言是十分有利的。從幾年前的基本為零，到2020年將實(shí)現(xiàn)超過25億美元的新增收入，這些企業(yè)未來數(shù)年還將取得每年20%的增長，利潤水平有望與行業(yè)平均水平相當(dāng)。但是這一數(shù)據(jù)應(yīng)置于具體的環(huán)境之中。2020年全球半導(dǎo)體行業(yè)收入預(yù)計(jì)為4,250億美元，39邊緣人工智能芯片僅占其中很小的一部分，無法對(duì)整個(gè)行業(yè)的格局產(chǎn)生影響，甚至難以改善制造企業(yè)的業(yè)績。

事實(shí)上，那些對(duì)設(shè)備人工智能有需求的人受益更大。邊緣人工智能芯片不僅能大幅提升現(xiàn)有設(shè)備的能力，亦將催生具備新功能和市場的全新設(shè)備。長遠(yuǎn)來看，后者很可能將推動(dòng)邊緣人工智能芯片產(chǎn)生更具變革性的影響。

部分處理功能（早期主要為推理）從核心轉(zhuǎn)至邊緣是否會(huì)對(duì)人工智能芯片制造企業(yè)產(chǎn)生不利影響？我們無法確定。所有人工智能芯片制造企業(yè)亦在制造邊緣人工智能芯片，因此處理功能從核心向邊緣的轉(zhuǎn)變也許只會(huì)產(chǎn)生很小的影響，甚至沒有影響。同時(shí)，人工智能處理需求迅速增長，有可能會(huì)推動(dòng)整個(gè)行業(yè)的增長：人工智能芯片行業(yè)（包括邊緣及數(shù)據(jù)中心領(lǐng)域）預(yù)計(jì)將從2018年的60億美元規(guī)模增長至2025年超過900億美元，復(fù)合年均增長率達(dá)到45%。40潛在的負(fù)面因素在于，成本更低、體積更小及功耗更少的邊緣人工智能芯片的興起，可能會(huì)迫使數(shù)據(jù)中心人工智能芯片的定價(jià)甚至銷量出現(xiàn)下行。這在過去已有發(fā)生：在半導(dǎo)體行業(yè)歷史上，邊緣處理芯片的普及頻繁導(dǎo)致主機(jī)/核心處理硬件價(jià)格以僅基于根據(jù)摩爾定律的增長預(yù)測(cè)更快的速度下降。

也有人認(rèn)為將人工智能處理從核心轉(zhuǎn)至邊緣會(huì)對(duì)云人工智能企業(yè)造成損害。這是不太可能的。近期預(yù)測(cè)顯示，2024年云人工智能或“人工智能即服務(wù)”市場的收入將從2018年的20億美元增長至近120億美元，復(fù)合年均增長率達(dá)到34%。41若沒有邊緣人工智能芯片，這一增長也許可能會(huì)更加強(qiáng)勁，但仍表明云人工智能的增長速度將近于整體云市場的兩倍——至2023年云市場的復(fù)合年均增長率預(yù)測(cè)為18%。

同樣，也有人擔(dān)心如果邊緣設(shè)備能夠直接執(zhí)行人工智能推理，那么這些設(shè)備便不再需要聯(lián)網(wǎng)了。這也是不太可能發(fā)生的。邊緣人工智能設(shè)備將依然需要與網(wǎng)絡(luò)核心進(jìn)行通信——發(fā)送數(shù)據(jù)用于人工智能訓(xùn)練、接收最新人工智能算法進(jìn)行推理，以及許多其他原因。正因如此，我們預(yù)計(jì)所有或基本所有邊緣智能設(shè)備將會(huì)具備聯(lián)網(wǎng)功能。

但是這種聯(lián)網(wǎng)的性質(zhì)可能與兩三年前的預(yù)測(cè)有所不同。當(dāng)時(shí)，人工智能推理僅限于大型數(shù)據(jù)中心，而智能物聯(lián)網(wǎng)設(shè)備必須聯(lián)網(wǎng)才能獲取這些人工智能推理能力——不僅是舊的網(wǎng)絡(luò)，還有具有超高網(wǎng)速、服務(wù)質(zhì)量保障、高聯(lián)網(wǎng)密度以及最低延遲的網(wǎng)絡(luò)。這些特性過去——如今依然——只有5G無線網(wǎng)絡(luò)才具備。因此，當(dāng)時(shí)人們自然認(rèn)定所有采用人工智能的物聯(lián)網(wǎng)設(shè)備亦需要——也只能——使用5G。

如今，這種認(rèn)定不再成立。設(shè)備本身能夠執(zhí)行一大部分人工智能處理并不能消除聯(lián)網(wǎng)的需要，但是這種聯(lián)網(wǎng)并不一定需要通過5G網(wǎng)絡(luò)。當(dāng)然，5G在某些情況下仍是必要的，同時(shí)5G市場預(yù)計(jì)將會(huì)迅猛增長，至2025年的復(fù)合年均增長率將高達(dá)55%，每年增長超過60億美元。43但由于邊緣人工智能芯片的出現(xiàn)，5G物聯(lián)網(wǎng)領(lǐng)域的市場機(jī)會(huì)可能會(huì)稍稍小于較數(shù)年前的預(yù)測(cè)。

邊緣人工智能芯片的普及很可能將推動(dòng)消費(fèi)者和企業(yè)發(fā)生顯著改變。對(duì)于消費(fèi)者，邊緣人工智能芯片能夠?qū)崿F(xiàn)眾多功能——從手機(jī)解鎖，到與語音助手對(duì)話，再到在極端環(huán)境下拍攝震撼人心的照片等等——這些功能此前只有連接互聯(lián)網(wǎng)才能實(shí)現(xiàn)。但長期來看，邊緣人工智能芯片只有應(yīng)用于企業(yè)之中，使企業(yè)能夠?qū)⒆陨砦锫?lián)網(wǎng)應(yīng)用推升至一個(gè)全新的高度，才能產(chǎn)生更大的影響。在人工智能芯片的助力下，智能機(jī)器能幫助制造、建筑、物流、農(nóng)業(yè)及能源行業(yè)企業(yè)拓展現(xiàn)有市場，與行業(yè)巨頭競爭，轉(zhuǎn)變利潤分配的格局。收集和解讀大量數(shù)據(jù)、并據(jù)此采取行動(dòng)的能力，對(duì)許多正在日益普及的數(shù)據(jù)密集型應(yīng)用至關(guān)重要：視頻監(jiān)控、虛擬現(xiàn)實(shí)、自動(dòng)飛行無人機(jī)和自動(dòng)駕駛汽車等等。這種未來很大程度上取決于邊緣人工智能芯片所能帶來的改變：將智能融入設(shè)備之中。
責(zé)任編輯；zl