眾所周知，人工智能的三大支柱是硬件、算法和數(shù)據(jù)。其中，硬件主要是指用于運行AI算法的芯片。本文主要對AI芯片的廠商進行歸納和整理。

目前針對AI設計的芯片主要分為用于服務器端（云端）和用于移動端（終端）兩大類。

服務器端負責AI算法的芯片走的是超級計算機的路子，一方面要支持盡可能多的網(wǎng)絡結構以保證算法的正確率和泛化能力；另一方面必須支持高精度浮點數(shù)運算，峰值性能至少要達到Tflops（每秒執(zhí)行10^12次浮點數(shù)運算）級別，所以功耗非常大；而且為了能夠提升性能必須支持陣列式結構（即可以把多塊芯片組成一個計算陣列以加速運算）。

移動端的AI芯片在設計思路上有著本質的區(qū)別。首先，必須保證功耗控制在一定范圍內，換言之，必須保證很高的計算能效；為了達到這個目標，移動端AI芯片的性能必然有所損失，允許一些計算精度損失，因此可以使用一些定點數(shù)運算以及網(wǎng)絡壓縮的辦法來加速運算。

下面，將分別從服務器端芯片和移動端芯片兩個大類進行介紹。有的廠商同時具有這兩類產(chǎn)品，則不做嚴格區(qū)分。

服務器端

<img src="https://pic4.zhimg.com/v2-ed2d5da37004d8f633c484b640d6fe77_b.png" data-rawwidth="121" data-rawheight="91" class="content_image" width="121">

在云端服務器這個領域，Nvidia的GPU已經(jīng)成為服務器不可或缺的一部分，稱其為領跑者毫不為過。有報告顯示，世界上目前約有3000多家AI初創(chuàng)公司，大部分都采用了Nvidia提供的硬件平臺。

資本市場對此給出了熱烈的回應：在過去的一年中，曾經(jīng)以游戲芯片見長的Nvidia股價從十幾年的穩(wěn)居30美元迅速飆升至120美元。2017年2月10日，英偉達發(fā)布2016年第四季度的財報顯示，其營收同比增長55%，凈利潤達到了6.55億美元，同比增長216%。

<img src="https://pic1.zhimg.com/v2-2e7c09381b6eea82ddebd1864adeceb0_b.png" data-rawwidth="121" data-rawheight="121" class="content_image" width="121">

作為PC時代的絕對霸主，Intel已經(jīng)錯過了移動互聯(lián)網(wǎng)時代，在已經(jīng)到來的AI時代，也失掉了先機，但它并沒有放棄，而是積極布局，準備逆襲。在云端，收購Altera之后推出了基于FPGA的專用深度學習加速卡，可以在云端使用；另外，收購Nervana，目標也是在云端。在移動端，則是收購了Movidius。下面先對Nervana進行介紹，對Movidius的介紹放在后面移動端。

<img src="https://pic2.zhimg.com/v2-2007f5781521fdbe56883f150081c37d_b.png" data-rawwidth="272" data-rawheight="71" class="content_image" width="272">

Nervana創(chuàng)立于2014年，位于圣地亞哥的初創(chuàng)公司Nervana Systems已經(jīng)從20家不同的投資機構那里獲得了2440萬美元資金，而其中一家是十分受人尊敬的德豐杰風險投資公司（Draper Fisher Jurvetson，DFJ）。

The Nervana Engine（將于2017年問世）是一個為深度學習專門定做和優(yōu)化的ASIC芯片。這個方案的實現(xiàn)得益于一項叫做High Bandwidth Memory的新型內存技術，同時擁有高容量和高速度，提供32GB的片上儲存和8TB每秒的內存訪問速度。該公司目前提供一個人工智能服務“in the cloud”，他們聲稱這是世界上最快的且目前已被金融服務機構、醫(yī)療保健提供者和政府機構所使用的服務，他們的新型芯片將會保證Nervana云平臺在未來的幾年內仍保持最快的速度。

<img src="https://pic1.zhimg.com/v2-62af27a968827ec6e1db41b69c75bd00_b.png" data-rawwidth="121" data-rawheight="75" class="content_image" width="121">

IBM很早以前就發(fā)布過watson，早就投入了很多的實際應用中去。除此之外，還啟動了對類人腦芯片的研發(fā)，那就是TrueNorth。

TrueNorth是IBM參與DARPA的研究項目SyNapse的最新成果。SyNapse全稱是Systems of Neuromorphic Adaptive Plastic Scalable Electronics（自適應可塑可伸縮電子神經(jīng)系統(tǒng)，而SyNapse正好是突觸的意思），其終極目標是開發(fā)出打破馮?諾依曼體系的硬件。

這種芯片把數(shù)字處理器當作神經(jīng)元，把內存作為突觸，跟傳統(tǒng)馮諾依曼結構不一樣，它的內存、CPU和通信部件是完全集成在一起。因此信息的處理完全在本地進行，而且由于本地處理的數(shù)據(jù)量并不大，傳統(tǒng)計算機內存與CPU之間的瓶頸不復存在了。同時神經(jīng)元之間可以方便快捷地相互溝通，只要接收到其他神經(jīng)元發(fā)過來的脈沖（動作電位），這些神經(jīng)元就會同時做動作。

2011年的時候，IBM首先推出了單核含256 個神經(jīng)元，256×256 個突觸和 256 個軸突的芯片原型。當時的原型已經(jīng)可以處理像玩Pong游戲這樣復雜的任務。不過相對來說還是比較簡單，從規(guī)模上來說，這樣的單核腦容量僅相當于蟲腦的水平。

不過，經(jīng)過3年的努力，IBM終于在復雜性和使用性方面取得了突破。4096個內核，100萬個“神經(jīng)元”、2.56億個“突觸”集成在直徑只有幾厘米的方寸（是2011年原型大小的1/16）之間，而且能耗只有不到70毫瓦。

這樣的芯片能夠做什么事情呢？IBM研究小組曾經(jīng)利用做過DARPA 的NeoVision2 Tower數(shù)據(jù)集做過演示。它能夠實時識別出用30幀每秒的正常速度拍攝自斯坦福大學胡佛塔的十字路口視頻中的人、自行車、公交車、卡車等，準確率達到了80%。相比之下，一臺筆記本編程完成同樣的任務用時要慢100倍，能耗卻是IBM芯片的1萬倍。

<img src="https://pic4.zhimg.com/v2-cb1ba0b2c52ec4d0564e8c8c7cdea237_b.png" data-rawwidth="120" data-rawheight="75" class="content_image" width="120">

Google在2016年宣布獨立開發(fā)一種名為TPU的全新的處理系統(tǒng)。

TPU是專門為機器學習應用而設計的專用芯片。通過降低芯片的計算精度，減少實現(xiàn)每個計算操作所需的晶體管數(shù)量，從而能讓芯片的每秒運行的操作個數(shù)更高，這樣經(jīng)過精細調優(yōu)的機器學習模型就能在芯片上運行得更快，進而更快地讓用戶得到更智能的結果。Google將TPU加速器芯片嵌入電路板中，利用已有的硬盤PCI-E接口接入數(shù)據(jù)中心服務器中。

據(jù)Google資深副總裁Urs Holzle透露，當前Google TPU、GPU并用，這種情況仍會維持一段時間，但他表示，GPU可執(zhí)行繪圖運算工作，用途多元；TPU 屬于ASIC，也就是專為特定用途設計的特殊規(guī)格邏輯IC，由于只執(zhí)行單一工作，速度更快，但缺點是成本較高。

<img src="https://pic4.zhimg.com/v2-48e1fe07b962e795aaefca3ba59a381b_b.png" data-rawwidth="185" data-rawheight="56" class="content_image" width="185">

終于有中國公司了，中文名“寒武紀”，是北京中科寒武紀科技有限公司的簡稱。這家公司有中科院背景，面向深度學習等人工智能關鍵技術進行專用芯片的研發(fā)，可用于云服務器和智能終端上的圖像識別、語音識別、人臉識別等應用。

寒武紀深度學習處理器采用的指令集DianNaoYu由中國科學院計算技術研究所陳云霽、陳天石課題組提出。模擬實驗表明，采用DianNaoYu指令集的寒武紀深度學習處理器相對于x86指令集的CPU有兩個數(shù)量級的性能提升。

目前，寒武紀系列已包含三種原型處理器結構：

• 寒武紀1號（英文名DianNao，面向神經(jīng)網(wǎng)絡的原型處理器結構）；

• 寒武紀2號（英文名DaDianNao，面向大規(guī)模神經(jīng)網(wǎng)絡）；

• 寒武紀3號（英文名PuDianNao，面向多種機器學習算法）。

2016年推出的寒武紀1A處理器（Cambricon-1A）是世界首款商用深度學習專用處理器，面向智能手機、安防監(jiān)控、可穿戴設備、無人機和智能駕駛等各類終端設備

移動端

<img src="https://pic4.zhimg.com/v2-492022b576fafef75b0f9867841f957f_b.png" data-rawwidth="119" data-rawheight="75" class="content_image" width="119">

ARM剛推出全新芯片架構DynamIQ，通過這項技術，AI的性能有望在未來三到五年內提升50倍。

ARM的新CPU架構將會通過為不同部分配置軟件的方式將多個處理核心集聚在一起，這其中包括一個專門為AI算法設計的處理器。芯片廠商將可以為新處理器配置最多8個核心。同時為了能讓主流AI在自己的處理器上更好地運行，ARM還將放出一系列軟件庫。

DynamIQ是在ARM上一代革新架構big.LITTLE基礎上的一次演進，這種架構能夠對同一運算設備中的大小兩個核進行適當配置，以減少電池消耗。目前big.LITTLE架構已經(jīng)被應用到了幾乎所有智能手機的芯片上，包括用于安卓系統(tǒng)的高通驍龍?zhí)幚砥饕约疤O果最新一代的A10芯片。

接下來ARM推出的每一款Cortex-A系列芯片都將采用這種新技術。ARM稱，與在現(xiàn)有芯片架構上開發(fā)出的處理器（即Cortex-A73）相比，基于DynamIQ架構開發(fā)的全新處理器有望在三到五年內使人工智能的表現(xiàn)增強50倍。

<img src="https://pic4.zhimg.com/v2-5c6fd59d29b619778361915da2858f4f_b.png" data-rawwidth="243" data-rawheight="104" class="content_image" width="243">

2016年9月，Intel發(fā)表聲明收購了Movidius。

Movidius專注于研發(fā)高性能視覺處理芯片。現(xiàn)任CEO是原來德州儀器OMAP部門的總經(jīng)理，它的技術指導委員會也是實力強大，擁有半導體和處理器行業(yè)的元老級人物——被蘋果收購的 P.A.Semi 創(chuàng)始人丹尼爾·多伯普爾（Daniel Dobberpuhl），卡內基梅隆大學計算機科學/計算機視覺專家金出武雄，以及前蘋果 iPhone 和 iPod 部門工程副總裁、資深工程師大衛(wèi)·圖普曼（David Tupman）三人坐鎮(zhèn)。

其最新一代的Myriad2視覺處理器主要由SPARC處理器作為主控制器，加上專門的DSP處理器和硬件加速電路來處理專門的視覺和圖像信號。這是一款以DSP架構為基礎的視覺處理器，在視覺相關的應用領域有極高的能耗比，可以將視覺計算普及到幾乎所有的嵌入式系統(tǒng)中。

該芯片已被大量應用在Google 3D項目Tango手機、大疆無人機、FLIR智能紅外攝像機、海康深眸系列攝像機、華睿智能工業(yè)相機等產(chǎn)品中。

<img src="https://pic4.zhimg.com/v2-c42fd5733da26981ae9b7371cc1ec53f_b.png" data-rawwidth="160" data-rawheight="65" class="content_image" width="160">

CEVA是專注于DSP的IP供應商，擁有為數(shù)眾多的產(chǎn)品線。其中，圖像和計算機視覺 DSP 產(chǎn)品 CEVA-XM4 是第一個支持深度學習的可編程 DSP，而其發(fā)布的新一代型號 CEVA-XM6，具有更優(yōu)的性能、更強大的計算能力，以及更低的耗能。

XM6 的兩大新硬件功能，將幫助大多數(shù)圖像處理和機器學習算法。第一個是分散-聚集，或者說是閱讀一個周期中，L1 緩存到向量寄存器中的 32 地址值的能力。CDNN2 編譯工具識別串行代碼加載，并實現(xiàn)矢量化來允許這一功能，當所需的數(shù)據(jù)通過記憶結構分布時，分散-聚集提高了數(shù)據(jù)加載時間。由于 XM6 是可配置的 IP，L1 數(shù)據(jù)儲存的大小/相關性在硅設計水平是可調節(jié)的，CEVA 表示，這項功能對于任意尺寸的 L1 都有效。此級用于處理的向量寄存器是寬度為 8 的 VLIW 實現(xiàn)器， 這樣的配置才能滿足要求。

第二功能稱為“滑動-窗口”數(shù)據(jù)處理，這項視覺處理的特定技術已被 CEVA 申請專利。有許多方法可以處理過程或智能中的圖像，通常算法將立刻使用平臺所需一塊或大片像素。對于智能部分，這些塊的數(shù)量將重疊，導致不同區(qū)域的圖像被不同的計算區(qū)域重用。CEVA 的方法是保留這些數(shù)據(jù)，從而使下一步分析所需信息量更少。

CEVA 指出，智能手機、汽車、安全和商業(yè)應用，如無人機、自動化將是主要目標。

<img src="https://pic1.zhimg.com/v2-2915b06a1fe05d4ceef37c15c5245ee8_b.png" data-rawwidth="119" data-rawheight="75" class="content_image" width="119">

Eyeriss事實上是MIT的一個項目，還不是一個公司，但是因為獲得了大量的媒體報道，故把它單獨拿出來進行介紹。從長遠來看，如果進展順利，很可能孵化出一個新的公司。

Eyeriss是一個高效能的深度卷積神經(jīng)網(wǎng)絡（CNN）加速器硬件，該芯片內建168 個核心，專門用來部署神經(jīng)網(wǎng)路（neural network），效能為一般行動GPU 的10 倍。其技術關鍵在于最小化GPU 核心和記憶體之間交換數(shù)據(jù)的頻率（此運作過程通常會消耗大量的時間與能量）：一般GPU 內的核心通常共享單一記憶體，但Eyeriss 的每個核心擁有屬于自己的記憶體。

此外，Eyeriss 還能在將數(shù)據(jù)傳送到每一個核心之前，先進行數(shù)據(jù)壓縮，且每一個核心都能立即與鄰近的核心直接溝通，因此若需要共享數(shù)據(jù)，核心們不需要透過主要記憶體就能傳遞。

目前，Eyeriss主要定位在人臉識別和語音識別，可應用在智能手機、穿戴式設備、機器人、自動駕駛車與其他物聯(lián)網(wǎng)應用裝置上。

<img src="https://pic4.zhimg.com/v2-ff73097f03a12488a665040c030cb32f_b.png" data-rawwidth="234" data-rawheight="96" class="content_image" width="234">

2016年6月20日，中星微率先推出中國首款嵌入式神經(jīng)網(wǎng)絡處理器（NPU）芯片，這是全球首顆具備深度學習人工智能的嵌入式視頻采集壓縮編碼系統(tǒng)級芯片，取名“星光智能一號”。這款基于深度學習的芯片運用在人臉識別上，最高能達到98%的準確率，超過人眼的識別率。該NPU采用了“數(shù)據(jù)驅動”并行計算的架構，單顆NPU（28nm）能耗僅為400mW，極大地提升了計算能力與功耗的比例。

研發(fā)“星光智能一號”耗時三年時間。中星微集團聚集了北京、廣東、天津、山西、江蘇、青島、硅谷的研發(fā)力量，采用了先進的過億門級集成電路設計技術及超亞微米芯片制造工藝，在TSMC成功實現(xiàn)投片量產(chǎn)。

目前“星光智能一號”出貨量主要集中在安防攝像領域，其中包含授權給其他安防攝像廠商部分。未來將主要向車載攝像頭、無人機航拍、機器人和工業(yè)攝像機方面進行推廣和應用。

<img src="https://pic4.zhimg.com/v2-a82c0e747406e227080f58f3e072f9eb_b.png" data-rawwidth="157" data-rawheight="61" class="content_image" width="157">

Horizon Robotics（地平線機器人）由前百度深度學習研究院負責人余凱創(chuàng)辦，致力于打造基于深度神經(jīng)網(wǎng)絡的人工智能“大腦”平臺-包括軟件和芯片，可以做到低功耗、本地化的解決環(huán)境感知、人機交互、決策控制等問題。其中，軟件方面，地平線做了一套基于神經(jīng)網(wǎng)絡的OS，已經(jīng)研發(fā)出分別面向自動駕駛的的“雨果”平臺和智能家居的“安徒生”平臺，并開始逐步落地。硬件方面，未來地平線機器人還會為這個平臺設計一個芯片——NPU（Neural Processing Unit），支撐自家的OS，到那時效能會提升2-3個數(shù)量級（100-1000倍）。

地平線的最終產(chǎn)品不止芯片，而是一個核心控制模塊，具有感知、識別、理解、控制的功能。把這個控制模塊做成產(chǎn)品去跟合作方做集成。換句話說，地平線提供的是一個帶有人工智能算法的解決方案。

商業(yè)模式上，目前會采取產(chǎn)品、技術加服務的方式，先把產(chǎn)品做出來，得到第一手的用戶體驗，將來再向更寬廣的生態(tài)去發(fā)展。地平線并沒有把自己定義為單純的技術提供商，不會單純的賣算法SDK或者單純出售芯片，而是打造技術平臺，來幫助用戶把產(chǎn)品做出來。

<img src="https://pic3.zhimg.com/v2-072301834f91f5c9c8241873680dceaa_b.png" data-rawwidth="129" data-rawheight="57" class="content_image" width="129">

深鑒科技由清華團隊創(chuàng)辦，其產(chǎn)品稱作“深度學習處理單元”（Deep Processing Unit，DPU），目標是以ASIC級別的功耗，來達到優(yōu)于GPU的性能，目前第一批產(chǎn)品基于FPGA平臺。

從官方提供的數(shù)據(jù)來看，嵌入式端的產(chǎn)品在性能超過Nvidia TK1 的同時，功耗、售價僅為后者的1/4左右。服務器端的產(chǎn)品，性能接近Nvidia K40 GPU ，但功耗只有35瓦左右，售價300美元以下，不足后者的1/10。

深鑒科技著力于打造基于DPU的端到端的深度學習硬件解決方案，除了承載在硬件模塊（訂制的PCB板）上的DPU的芯片架構外，還打造了針對該架構的DPU壓縮編譯工具鏈SDK。

產(chǎn)品的應用領域分為終端和云端兩類。其中嵌入式端的產(chǎn)品將主要應用在無人機、安防監(jiān)控、機器人、AR等領域，目前已經(jīng)與一家知名無人機廠商建立了合作。服務器端的產(chǎn)品將主要面向大型互聯(lián)網(wǎng)公司的語音處理、圖像處理等。目前也已經(jīng)與國內知名互聯(lián)網(wǎng)公司展開合作，在兼容對方現(xiàn)有機房的情況下，功耗降低80%，語音識別的準確率提升了5%-7%。

結語

人工智能時代已經(jīng)來臨，在這個史無前例的巨大浪潮面前，有哪些公司能脫穎而出，成為新一代弄潮兒？讓我們拭目以待。