AI芯片分類：

從功能來看，可以分為Training(訓練)和Inference(推理)兩個環節；

從應用場景來看，可以分成“Cloud/DataCenter(云端)”和“Device/Embedded(設備端)”兩大類；

除了按照功能和應用場景劃分外，AI芯片從技術架構發展來看，大致也可以分為四個類型：

1、通用類芯片，代表如GPU、FPGA；

2、基于FPGA的半定制化芯片，代表如深鑒科技DPU、百度XPU等；

3、全定制化ASIC芯片，代表如TPU、寒武紀 Cambricon-1A等；

4、類腦計算芯片，代表如IBM TrueNorth、westwell、高通Zeroth等。

AI芯片產業生態

國內AI芯片公司

中科寒武紀

AI產品：Cambricon-1A

寒武紀科技成立于2016年，總部在北京，創始人是中科院計算所的陳天石、陳云霽兄弟，近期剛剛完成了一億美元A輪融資，阿里巴巴創投、聯想創投、國科投資、中科圖靈、元禾原點、涌鏵投資聯合投資，成為全球AI芯片領域第一個獨角獸初創公司。

寒武紀是全球第一個成功流片并擁有成熟產品的AI芯片公司，擁有終端AI處理器IP和云端高性能AI芯片兩條產品線。2016年發布的寒武紀1A處理器(Cambricon-1A)是世界首款商用深度學習專用處理器，面向智能手機、安防監控、無人機、可穿戴設備以及智能駕駛等各類終端設備，在運行主流智能算法時性能功耗比全面超越傳統處理器。

地平線機器人（Horizon Robotics）

AI產品：BPU

地平線機器人成立于2015年，總部在北京，創始人是前百度深度學習研究院負責人余凱。公司于去年中完成了A+輪融資，投資方包括了晨興資本、高瓴資本、紅杉資本、金沙江創投、線性資本、創新工場、真格基金、雙湖投資、青云創投、祥峰投資、DST等。據介紹，公司近期即將完成B輪融資。

BPU(BrainProcessing Unit)是地平線機器人自主設計研發高效的人工智能處理器架構IP，支持ARM/GPU/FPGA/ASIC實現，專注于自動駕駛、人臉圖像辨識等專用領域。2017年，地平線基于高斯架構的嵌入式人工智能解決方案將會在智能駕駛、智能生活、公共安防三個領域進行應用，第一代BPU芯片“盤古”目前已進入流片階段，預計在今年下半年推出，能支持1080P的高清圖像輸入，每秒鐘處理30幀，檢測跟蹤數百個目標。地平線的第一代BPU采用TSMC的40nm工藝，相對于傳統CPU/GPU,能效可以提升2~3個數量級(100~1,000倍左右)。

深鑒科技

AI產品：DPU

深鑒科技成立于2016年，總部在北京。由清華大學與斯坦福大學的世界頂尖深度學習硬件研究者創立，今年初完成了A輪融資，投資方包括了聯發科、賽靈思、金沙江創投、高榕資本、清華控股、方和資本等。

深鑒科技將其開發的基于FPGA的神經網絡處理器稱為DPU。到目前為止，深鑒公開發布了兩款DPU：亞里士多德架構和笛卡爾架構，其中，亞里士多德架構是針對卷積神經網絡CNN而設計；笛卡爾架構專為處理DNN/RNN網絡而設計，可對經過結構壓縮后的稀疏神經網絡進行極致高效的硬件加速。相對于 Intel XeonCPU 與 Nvidia TitanX GPU，應用笛卡爾架構的處理器在計算速度上分別提高189倍與13倍，具有24000倍與3000倍更高能效。

啟英泰倫

AI產品：CI1006

啟英泰倫于2015年11月在成都成立，是一家語音識別芯片研發商，投資方包括了Roobo、匯聲信息等。

啟英泰倫的CI1006是基于ASIC架構的人工智能語音識別芯片，包含了腦神經網絡處理硬件單元，能夠完美支持DNN運算架構，進行高性能的數據并行計算，可極大的提高人工智能深度學習語音技術對大量數據的處理效率。

云知聲

AI產品：Unione/IVM-M/Unitoy

云知聲是一家智能語音識別技術公司，成立于2012年，總部位于北京。今年8月剛剛獲得3億人民幣戰略投資，其中部分資金將用于加大人工智能專用芯片UniOne的研發力度。

UniOne將內置DNN處理單元，兼容多麥克風、多操作系統，對任何的場景不做限制，無論是在智能的空調上、車載上或其他智能設備上都可以植入這個芯片，該芯片具有高集成度的，低功耗、低成本的優點。與此同時，公司還有IVM-M高性能嵌入式芯片，基于高通wifi模組，提供高性價比的物聯網語音交互整體方案，主要應用在智能空調，廚電等職能家具產品上；基于Linux系統設計的Unitoy芯片可一站式解決兒童陪伴式機器人的喚醒、識別、設備互聯能力。

百度

AI產品：XPU

百度2017年8月Hot Chips大會上發布了XPU，這是一款256核、基于FPGA的云計算加速芯片。合作伙伴是賽思靈(Xilinx)。XPU采用新一代 AI 處理架構，擁有GPU的通用性和FPGA的高效率和低能耗，對百度的深度學習平臺PaddlePaddle做了高度的優化和加速。據介紹，XPU關注計算密集型、基于規則的多樣化計算任務，希望提高效率和性能，并帶來類似CPU的靈活性。但目前XPU有所欠缺的仍是可編程能力，而這也是涉及FPGA時普遍存在的問題。到目前為止，XPU尚未提供編譯器。

華為

AI產品：麒麟 970 神經網絡處理器NPU

麒麟970搭載的神經網絡處理器NPU采用了寒武紀IP。麒麟970采用了TSMC 10nm工藝制程，擁有55億個晶體管，功耗相比上一代芯片降低20%。CPU架構方面為4核A73+4核A53組成8核心，能耗同比上一代芯片得到20%的提升；GPU方面采用了12核Mali G72 MP12GPU，在圖形處理以及能效兩項關鍵指標方面分別提升20%和50%；NPU采用HiAI移動計算架構，在FP16下提供的運算性能可以達到1.92 TFLOPs，相比四個Cortex-A73核心，處理同樣的AI任務，有大約50倍能效和25倍性能優勢。

云天勵飛

AI產品：IPU

公司成立于2014年，總部在深圳，由國家“***”特聘專家陳寧和田第鴻博士聯合創立，今年3月完成了A輪融資，投資方松禾資本、深投控、紅秀盈信、山水從容投資、投控東海、真格基金等。

云天勵飛提供視覺智能芯片和解決方案，專注于人工智能領域，以新型處理器、機器學習與大數據技術為核心。公司自主研發的處理器芯片IPU，采用了全新的面向視覺計算的處理器芯片架構，該技術將機器學習效能提升了兩個數量級。公司在在深圳搭建的區域級天眼系統，實現了全球首創的“百萬人群、秒級定位”，還被采納為2016年杭州G20峰會和烏鎮互聯網大會的安全系統提供服務。

中星微

AI產品：NPU

中星微在2016年6月20日率先推出中國首款嵌入式神經網絡處理器（NPU）芯片，這是全球首顆具備深度學習人工智能的嵌入式視頻采集壓縮編碼系統級芯片，取名“星光智能一號”。這款基于深度學習的芯片運用在人臉識別上，最高能達到98%的準確率，超過人眼的識別率。該NPU采用了“數據驅動”并行計算的架構，單顆NPU（28nm）能耗僅為400mW，極大地提升了計算能力與功耗的比例。

研發“星光智能一號”耗時三年時間。中星微集團聚集了北京、廣東、天津、山西、江蘇、青島、硅谷的研發力量，采用了先進的過億門級集成電路設計技術及超亞微米芯片制造工藝，在TSMC成功實現投片量產。

目前“星光智能一號”出貨量主要集中在安防攝像領域，其中包含授權給其他安防攝像廠商部分。未來將主要向車載攝像頭、無人機航拍、機器人和工業攝像機方面進行推廣和應用。

杭州國芯

AI產品：gxNPU

杭州國芯是一家本土的芯片公司，成立于2001年，已經有17年的歷史。最初杭州國芯主要做數字電視芯片、機頂盒芯片，產品已遍銷全球。

西井科技

AI產品：Deepsouth

西井科技成立于2015年5月，是一家開發“類腦人工智能芯片+算法”的科技公司，其芯片用電路模擬神經，成品有100億規模的仿真神經元。西井用FPGA模擬神經元以實現SNN的工作方式，其產品命名為Deepsouth，正是和IBM的truenorth成競品。由于架構特殊，這些芯片計算能力強，可用于基因測序、模擬大腦放電等醫療領域。

西井科技還有一款5000萬個神經元的商用芯片。除了自我學習外，它的傳統計算能力也極強，能將基因測序從兩周縮短到數個小時。由于體積小、功耗是同類芯片幾十分之一，其它便攜式醫療設備也可使用這款芯片。

Think Force

Think Force——上海熠知電子科技有限公司成立于2017年，由來自芯片設計、算法軟件、系統開發領域的資深專家創立。公司主要設計融合一流AI算法和先進制成工藝的智能芯片，并以此構建人工智能硬件平臺，提供一站式行業應用解決方案。

據介紹，ThinkForce計劃推出的AI芯片基于業界先進的半導體制程工藝，采用自主研發的微內核ManyCore架構，能完成AI云虛擬化調度在芯片級的實現，此架構將AI云的彈性計算和調度提升一個量級，類似CPU的虛擬化給云計算的彈性調度帶來成倍的成本節約。同時，該技術結合自主研發的固件和TFDL軟件SDK能夠實現對于各類神經網絡模型的計算加速，相對于Nvidia主流計算卡能實現5倍以上的功耗和成本節省。

比特大陸

AI產品：TPU

比特大陸成立于2013年，是一家專注于高速、低功耗定制芯片設計研發的科技公司，擁有低功耗高性能的16nm工藝集成電路的量產經驗，成功設計量產了多款ASIC定制芯片和集成系統。

在2017世界人工智能大會上重磅發布了面向人工智能應用的專用定制芯片Sophon BM1680，深度學習加速卡SC1和SC1+以及智能視頻分析服務器SS1，正式進軍人工智能行業。

中天微系統

杭州中天微系統有限公司成立于2001年，總部位于杭州高新區。是一家致力于32位高性能低功耗嵌入式CPU研發，以芯片架構授權為核心業務的IC設計公司，也是直接與阿里巴巴合作，并獲得阿里巴巴入股投資的一家國產CPU業者。是當前我國唯一基于自主指令架構研發嵌入式CPU并實現大規模量產的CPU供應商。

2015年，阿里便與杭州中天微系統有限公司進行深度合作，面向物聯網各細分領域開發云芯片（Yun on Chip）架構。在云端一體的框架下研制新一代CPU、SoC平臺、軟件支撐環境和操作系統，支持從芯片到云端的全鏈路安全、低成本接入。并積極致力于打造產業生態鏈，開發面向全行業的云芯片產品。

人人智能

AI產品：FaceOS

人人智能提供一個基ARM的人臉識別核心芯片即模組方案，識別模組是獨創的支持深度學習算法的嵌入式高性能ARM平臺，支持外接攝像機從視頻流檢測和載取人臉照片等功能。據介紹，人人智能發布的“智能芯”是國內首個人臉識別硬件模組，尺寸僅為86mm*56mm*21mm，集成了人工智能操作系統FaceOS。通過將人工智能算法進行集成產品化，能夠把產品的研發周期減少60%，成本降低50%。

NovuMind

NovuMind成立于2015年，公司創始人是原百度異構計算小組負責人吳韌，在北京及硅谷設有辦公室。公司于2017年初完成了A輪融資，投資方包括了真格基金、寬帶資本、英諾天使基金、洪泰基金、臻云創投、極客幫創投等，據報道近期正在籌備新一輪融資。

NovuMind主要為智能為汽車、安防、醫療、金融等領域提供ASIC芯片，并提供訓練模型的全棧式AI解決方案。與Nvidia GPU或Cadence DSP的通用深度學習芯片不同，NovuMind專注于開發一種“非常專用但非常高效地進行推理”的深度學習加速器芯片。NovuMind設計了一種僅使用3×3卷積過濾器的AI芯片，通過使用獨特的張量處理架構(tensorprocessing architecture)直接對三維Tensor進行處理，新芯片將支持Tensorflow、Cafe和Torch模型。NovuMind的第一個AI芯片(原型)預計會在17年圣誕節前推出。到明年2月份應用程序準備就緒，并能夠在該芯片上實現耗能不超過5瓦進行15萬億次浮點運算。NovuMind的第二個芯片，耗能將不超過1瓦，計劃在2018年中期面世。

瑞芯微

AI產品：RK3399Pro

在CES 2018年消費電子展前夜，瑞芯微宣布，向全球正式推出旗下首款性能超強的AI處理器RK3399Pro，其片上NPU（神經網絡處理器）運算性能高達2.4TOPs，具高性能、低功耗、開發易等優勢，并且瑞芯微能為AI人工智能領域提供一站式Turnkey解決方案。

根據官方介紹，RK3399Pro 首次采用CPU+GPU+NPU硬件結構設計的AI芯片，其集成的NPU（神經網絡處理器）融合了Rockchip在機器視覺、語音處理、深度學習等領域的多年經驗。相較傳統芯片，典型深度神經網絡Inception V3、ResNet34、VGG16等模型在RK3399Pro芯片上的運行效果表現出眾，獲近百倍提升。

RK3399Pro采用專有AI硬件設計， NPU運算性能高達2.4TOPs，高性能與低功耗指標均大幅領先：相較同類NPU芯片性能領先150%；相較GPU作為AI運算單元的大型芯片方案，功耗不到其所需的1%。

國外AI芯片公司

英偉達（Nvidia）

英偉達無疑是AI芯片市場中無可爭議的領導者。2017年，英偉達可謂是風光無限。從游戲、數據中心到人工智能，市場對英偉達芯片的需求一路上升。

由于深度學習對計算速度的要求是“暴力”的，英偉達GPU芯片可以讓大量處理器并行運算，速度比CPU快十倍甚至幾十倍，因而成為絕大部分人工智能研究者和開發者的必備”核彈“。

國內搞AI創業的人幾乎全在用英偉達GPU和平臺，一個小型AI創業團隊在英偉達芯片上花費幾十萬元很正常。

作為PC時代的絕對霸主，Intel已經錯過了移動互聯網時代，在已經到來的AI時代，也失掉了先機，但它并沒有放棄，而是積極布局，準備逆襲。在云端，收購Altera之后推出了基于FPGA的專用深度學習加速卡，可以在云端使用；另外，收購Nervana，目標也是在云端。在移動端，則是收購了Movidius。下面先對Nervana進行介紹，對Movidius的介紹放在后面移動端。

AMD

2017年12月，相爭50多年的Intel和AMD宣布將聯手推出一款結合英特爾處理器和AMD圖形單元的筆記本電腦芯片，一時間業內嘩然。

芯謀研究總監王笑龍認為：“如果Nvidia在個人電腦GPU上營收減少，那么Nvidia在新市場的開發就會被牽制，所以Intel選擇和AMD合作。”

數據研究機構Gartner的研究主管Alan Priestley也認為，Intel和AMD的合作將會對Nvida產生一些影響，“目前Intel和AMD聯合推出的這款芯片的應用領域也正是Nvidia GPU的應用領域。很明顯，Intel處理器已經滲入到這個領域內，并且通過新款芯片，AMD也會在這一領域內獲得立足點。”

Google

Google在2016年宣布獨立開發一種名為TPU的全新的處理系統。TPU是專門為機器學習應用而設計的專用芯片。通過降低芯片的計算精度，減少實現每個計算操作所需的晶體管數量，從而能讓芯片的每秒運行的操作個數更高，這樣經過精細調優的機器學習模型就能在芯片上運行得更快，進而更快地讓用戶得到更智能的結果。

在2016年3月打敗了李世石和2017年5月打敗了柯杰的的阿爾法狗，就是采用了谷歌的TPU系列芯片。

高通

在智能手機芯片占據絕對優勢的高通公司，也在人工智能方面積極布局。據高通提供的資料顯示，其在人工智能方面已投資了Clarifai公司和中國“專注于物聯網人工智能服務”的云知聲。

而早在2015年CES上，高通推出了一款搭載驍龍SoC的飛行機器人——Snapdragon Cargo。高通認為在工業、農業的監測以及航拍對拍照、攝像以及視頻新需求上，公司恰好可以發揮其在計算機視覺領域的能力。此外，高通的額驍龍820芯片也被應用于VR頭盔中。事實上，高通已經在研發能在本地完成深度學習的移動設備芯片。

Nervana Systems

Nervana創立于2014年，位于圣地亞哥的初創公司Nervana Systems已經從20家不同的投資機構那里獲得了2440萬美元資金，而其中一家是十分受人尊敬的德豐杰風險投資公司（Draper Fisher Jurvetson，DFJ）。

The Nervana Engine（將于2017年問世）是一個為深度學習專門定做和優化的ASIC芯片。這個方案的實現得益于一項叫做High Bandwidth Memory的新型內存技術，同時擁有高容量和高速度，提供32GB的片上儲存和8TB每秒的內存訪問速度。該公司目前提供一個人工智能服務“in the cloud”，他們聲稱這是世界上最快的且目前已被金融服務機構、醫療保健提供者和政府機構所使用的服務，他們的新型芯片將會保證Nervana云平臺在未來的幾年內仍保持最快的速度。

Movidius（被Intel收購）

2016年9月，Intel發表聲明收購了Movidius。Movidius專注于研發高性能視覺處理芯片。其最新一代的Myriad2視覺處理器主要由SPARC處理器作為主控制器，加上專門的DSP處理器和硬件加速電路來處理專門的視覺和圖像信號。這是一款以DSP架構為基礎的視覺處理器，在視覺相關的應用領域有極高的能耗比，可以將視覺計算普及到幾乎所有的嵌入式系統中。

該芯片已被大量應用在Google 3D項目Tango手機、大疆無人機、FLIR智能紅外攝像機、海康深眸系列攝像機、華睿智能工業相機等產品中。

IBM

IBM很早以前就發布過watson，早就投入了很多的實際應用中去。除此之外，還啟動了對類人腦芯片的研發，那就是TrueNorth。

TrueNorth是IBM參與DARPA的研究項目SyNapse的最新成果。SyNapse全稱是Systems of Neuromorphic Adaptive Plastic Scalable Electronics（自適應可塑可伸縮電子神經系統，而SyNapse正好是突觸的意思），其終極目標是開發出打破馮?諾依曼體系的硬件。

ARM

ARM剛推出全新芯片架構DynamIQ，通過這項技術，AI的性能有望在未來三到五年內提升50倍。

ARM的新CPU架構將會通過為不同部分配置軟件的方式將多個處理核心集聚在一起，這其中包括一個專門為AI算法設計的處理器。芯片廠商將可以為新處理器配置最多8個核心。同時為了能讓主流AI在自己的處理器上更好地運行，ARM還將放出一系列軟件庫。

CEVA

CEVA是專注于DSP的IP供應商，擁有為數眾多的產品線。其中，圖像和計算機視覺 DSP 產品 CEVA-XM4 是第一個支持深度學習的可編程 DSP，而其發布的新一代型號 CEVA-XM6，具有更優的性能、更強大的計算能力，以及更低的耗能。

CEVA 指出，智能手機、汽車、安全和商業應用，如無人機、自動化將是主要目標。

MIT/Eyeriss

Eyeriss事實上是MIT的一個項目，還不是一個公司，但是因為獲得了大量的媒體報道，故把它單獨拿出來進行介紹。從長遠來看，如果進展順利，很可能孵化出一個新的公司。

Eyeriss是一個高效能的深度卷積神經網絡（CNN）加速器硬件，該芯片內建168 個核心，專門用來部署神經網路（neural network），效能為一般行動GPU 的10 倍。其技術關鍵在于最小化GPU 核心和記憶體之間交換數據的頻率（此運作過程通常會消耗大量的時間與能量）：一般GPU 內的核心通常共享單一記憶體，但Eyeriss 的每個核心擁有屬于自己的記憶體。

目前，Eyeriss主要定位在人臉識別和語音識別，可應用在智能手機、穿戴式設備、機器人、自動駕駛車與其他物聯網應用裝置上。

蘋果

在iPhone 8和iPhone X的發布會上，蘋果明確表示其中所使用的A11處理器集成了一個專用于機器學習的硬件——“神經網絡引擎（Neural Engine）”，每秒運算次數最高可達6000億次。這塊芯片將能夠改進蘋果設備在處理需要人工智能的任務時的表現，比如面部識別和語音識別等。

三星

2017年，華為海思推出了麒麟970芯片，據知情人士透露，為了對標華為，三星已經研發了許多種類的人工智能芯片。三星計劃在未來三年內自家智能手機中都采用人工智能芯片，并且他們還將為人工智能設備建立新的組件業務。三星還投資了Graphcore、深鑒科技等人工智能芯片企業。

ManyCore

ManyCore架構特斯拉CEO馬斯克在今年的神經信息處理系統大會上，承認特斯拉自動駕駛硬件工程副總裁 Jim Keller正在領導著一個超五十人的團隊在開發自己的AI芯片。

Jim Keller 是2016年帶了一批架構師和高管跳槽到特斯拉的，他在 AMD和蘋果期間，設計出了K7 、K8架構和A4、A5 處理器，被稱得上是天才架構師。

微軟

微軟蟄伏六年，打造出了一個迎接AI世代的芯片。那就是Project Catapult。這個FPGA 目前已支持微軟Bing，未來它們將會驅動基于深度神經網絡——以人類大腦結構為基礎建模的人工智能——的新搜索算法，在執行這個人工智能的幾個命令時，速度比普通芯片快上幾個數量級。

2017年7月，微軟表示正在研發用于識別語音和圖像的 AI 芯片，未來將被包含在下一代 HoloLens 的全息處理單元（HPU）當中。

KnuEdge

KnuEdge實際上并不是一個初創公司，它由NASA的前任負責人創立，已經在一個隱形模式下運營了10年。KnuEdge最近從隱形的模式中走出，并讓全世界知道他們從一個匿名的投資人獲取1億美元的投資用來開發一個新的“神經元芯片”。

KUNPATH提供基于LambaFabric的芯片技術，LambaFabric將會通過與現在市場上的GPUs、CPUs和FPGAs完全不同的架構進行神經網絡的計算。LambdaFabric本質上是為在高要求的運算環境下向上拓展至512000臺設備而設計，機架至機架延遲時間只有400毫微秒，低功耗的256核處理器。

krtkl

創立于2015年的krtkl致力于創造“一個微小的無線電腦用來創造一些完全不同的東西”。這款開拓板是基于XilinxZynq SoC，集成了ARM處置器和可編程FPGA。用戶甚至可以經過手機上的專用APP對其舉行編程，供230個用戶可用的I/O接口，應用靈巧兼容很多擴展板卡。

Barefoot Networks

Barefoot Networks去年11月宣布獲得2300萬美元C輪融資，由阿里巴巴和騰訊領投。在去年6月，Barefoot 還獲得了由谷歌和丹華資本等投資的5700萬美元融資。

Barefoot Networks開發了世界上第一個可編程芯片，這種名為Tofino的芯片比現在市場上任何其他芯片快兩倍，以每秒6.5兆的速度處理網絡數據包。

耐能（Kneron）

耐能人工智能(KneronInc.)成立于2015年11月，是一家總部位于美國圣地亞哥的人工智能初創企業，在深圳和珠海也設有辦公室。耐能人工智能(KneronInc.)的產品特色在于同時具備硬件及軟件的人工智能解決方案，可以將復雜的深度學習演算法，放在終端設備里，而且無需連上網絡。

耐能（Kneron）于2016年推出該公司首款終端設備專用的人工智能芯片，稱為神經網絡處理器（Neural Processing Unit，NPU），以及自行研發的軟件開發工具包「重組式人工智能神經網絡」（Reconfigurable Artificial Neural Network），采用算法可以針對不同的需求快速調整功能，以適用不同的人工智能應用。

Graphcore

2017年11月，英國芯片制造商Graphcore宣布獲得由紅杉資本中國基金與紅杉資本美國基金共同領投的5000萬美元C輪融資。

graphore是一家總部位于布里斯托爾的公司，它開發了新一代計算機處理器，可用于訓練人工智能( AI)算法。該公司聲稱，其IPU ( intelligence processing units)可以將機器智能培訓的性能提高10倍到100倍。這家英國公司計劃明年大規模出貨，其芯片將用于無人駕駛汽車和云計算。

此外，Facebook以及Twitter和更多低調的初創公司都在研發新的芯片。