光子計(jì)算時(shí)代到來了嗎?幾家中美芯片創(chuàng)企正試圖給出正面的回答。
2020年6月,LightOn發(fā)表用光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片運(yùn)行AI模型的新論文;7月,曦智科技拿到由和利資本投資的數(shù)千萬美元A+輪融資;8月,Lightmatter在芯片頂會(huì)HotChips上展示了其光子芯片的架構(gòu)細(xì)節(jié);12月,光子算數(shù)宣布其打造的光電混合AI加速計(jì)算卡已交予服務(wù)器廠商客戶做測試。
在加速人工智能(AI)這條賽道上,光子計(jì)算芯片這條創(chuàng)新的技術(shù)方向正異軍突起。這是一群勇敢的探路人,他們在期待和爭議中前行,一步一個(gè)腳印地試圖證明自己判斷方向的正確性。
光子AI芯片距離產(chǎn)業(yè)化落地還有多遠(yuǎn)?在這一賽道的創(chuàng)業(yè)者們,能給計(jì)算芯片帶來新的驚喜嗎?
01 一篇頂刊論文引出的新型賽道
隨著摩爾定律滯緩,硅光子技術(shù)成為超越摩爾定律的研究方向之一。
2017年,來自英國艾克塞特大學(xué)、牛津大學(xué)和明斯特大學(xué)的研究人員,宣布了其類腦光驅(qū)動(dòng)芯片研究成果。他們用特殊相變材料和光子集成電路模擬人腦神經(jīng)突觸,使得這款芯片在測試中的數(shù)據(jù)傳輸速度達(dá)300Gbps,比當(dāng)時(shí)現(xiàn)有標(biāo)準(zhǔn)處理器要快10-50倍,同時(shí)功耗大幅降低。
在同年5月的美國麻省理工學(xué)院10萬美元?jiǎng)?chuàng)業(yè)大賽上,一支來自麻省理工學(xué)院(MIT)的團(tuán)隊(duì)?wèi){借用納米光子芯片執(zhí)行AI任務(wù),成功斬獲大獎(jiǎng)。
1個(gè)月后,主創(chuàng)團(tuán)隊(duì)的研究成果登上頂級期刊《自然·光子學(xué)》的封面,論文描述了一種利用光學(xué)干涉進(jìn)行神經(jīng)網(wǎng)絡(luò)計(jì)算的創(chuàng)新方法。當(dāng)時(shí),國際著名光學(xué)科學(xué)家、斯坦福大學(xué)終身教授David Miller評價(jià)稱:“這一系列研究成果極大地推動(dòng)了集成光學(xué)未來取代傳統(tǒng)電子計(jì)算芯片的發(fā)展。”
這篇光子芯片論文的一作及通訊作者是MIT博士后沈亦晨,二作是尼克·哈里斯(Nick Harris)。不久之后,這些論文合著者將成為商業(yè)上的競爭對手,開啟各自的創(chuàng)業(yè)之旅,并分別獲得來自谷歌、百度等科技巨頭的投資。
光子是當(dāng)前速度最快的粒子,相較電子,速度更快而功耗極低。此前光學(xué)技術(shù)通常應(yīng)用于通信傳輸領(lǐng)域,借助光的更快速度、更高容量等特點(diǎn)實(shí)現(xiàn)數(shù)據(jù)的遠(yuǎn)距離傳輸,但在計(jì)算領(lǐng)域進(jìn)展緩慢。
實(shí)際上,光計(jì)算的研究歷史并不短暫。在國外,1950年代前后,貝爾實(shí)驗(yàn)室等機(jī)構(gòu)花費(fèi)大量精力來設(shè)計(jì)光學(xué)計(jì)算機(jī)部件;在國內(nèi),1987年中科院上海光學(xué)精密機(jī)械研究所王之江院士曾于《中國科學(xué)院院刊》上撰文,提出了極具前瞻性的發(fā)展光計(jì)算技術(shù)的建議,并于此后在光學(xué)神經(jīng)學(xué)邏輯計(jì)算方面開展了大量的工作。
由于光計(jì)算的應(yīng)用場景并不清晰,軟硬件體系也不夠完善,關(guān)于如何用光子代替電子芯片執(zhí)行計(jì)算的想法長期停留在研究階段,鮮少在實(shí)際應(yīng)用中發(fā)揮廣泛的作用。
直到摩爾定律趨于滯緩,AI的巨輪開始起航。
02 光子AI芯片的優(yōu)勢:
速度快、功耗低、擅長并行計(jì)算
作為統(tǒng)治計(jì)算的一個(gè)基準(zhǔn)法則,摩爾定律指出,微處理器芯片上的晶體管數(shù)每18-24個(gè)月翻一番,曾長期作為推動(dòng)電子設(shè)備小型化和互聯(lián)網(wǎng)普及的關(guān)鍵動(dòng)力。
但這是芯片制造商及供應(yīng)商竭力維系摩爾定律的結(jié)果,隨著逼近物理尺寸極限、散熱難題即將成為無法克服的挑戰(zhàn),以及許多關(guān)鍵的計(jì)算密集型應(yīng)用發(fā)展提速,人們對摩爾定律的未來產(chǎn)生了更多疑慮,對芯片技術(shù)創(chuàng)新的需求也愈發(fā)迫切。
2016年,《Nature》在“超越摩爾(More than Moore)”一文中指出,摩爾定律已接近日薄西山,接下來硅晶技術(shù)的發(fā)展將不再以摩爾定律為中心,造出更好的芯片然后讓應(yīng)用跟進(jìn),而是從應(yīng)用出發(fā)來看需要怎樣的芯片支持,進(jìn)而容納更多細(xì)微復(fù)雜的創(chuàng)新方向。
而根據(jù)OpenAI發(fā)布的分析數(shù)據(jù),自2012年以來,AI訓(xùn)練對算力的需求每3.43個(gè)月翻一番,增速明顯快于摩爾定律。
▲自2012年以來算力需求增長超過30萬倍,而如果以摩爾定律的速度只會(huì)有 12 倍的增長(來源:OpenAI)
隨著以神經(jīng)網(wǎng)絡(luò)計(jì)算為主的AI應(yīng)用普及,一些研究人員意識到,深度學(xué)習(xí)可能是數(shù)十年來光學(xué)計(jì)算所等待的“殺手級應(yīng)用”。
首先,光速快于電子速度,理想狀態(tài)下,光子芯片的計(jì)算速度能比電子芯片快約1000倍。同時(shí),采用成熟半導(dǎo)體工藝技術(shù)的光子芯片,即可達(dá)到當(dāng)下需要的計(jì)算能力。
其次,光子計(jì)算消耗能量少,同等計(jì)算速度下,光子芯片的功耗僅為電子芯片的數(shù)百分之一,可以緩解AI創(chuàng)新所需的數(shù)據(jù)中心建設(shè)對環(huán)境的影響。
▲Lightmatter聯(lián)合創(chuàng)始人兼CEO尼克·哈里斯在2020年Hot Chips上講解光子計(jì)算相較電子計(jì)算的延時(shí)、帶寬、功耗優(yōu)勢
最后,光計(jì)算技術(shù)具有并行計(jì)算的特點(diǎn),光波的頻率、波長、偏振態(tài)和相位等信息可以代表不同的數(shù)據(jù),且光路在交叉?zhèn)鬏敃r(shí)互不干擾。這些特性使得光子擅長做并行運(yùn)算,與多數(shù)計(jì)算過程花在“矩陣乘法”上的人工神經(jīng)網(wǎng)絡(luò)相契合。
總體而言,光具有高計(jì)算速度、低功耗、低時(shí)延等特點(diǎn),且不易受到溫度、電磁場和噪聲變化的影響,在AI應(yīng)用領(lǐng)域,將光學(xué)技術(shù)與電子學(xué)結(jié)合,有望提供比傳統(tǒng)方法更好的速度和能效。
03 光子計(jì)算走向商業(yè)化
嗅到AI加速帶來的機(jī)會(huì)后,來自英、法、美、中的一些創(chuàng)業(yè)團(tuán)隊(duì)開始揚(yáng)帆起航,切入云端AI計(jì)算市場,其中不乏有初創(chuàng)公司得到來自科技巨頭及知名投資者的投資。
2013年成立的英國創(chuàng)企 Optalysys,曾于2015年創(chuàng)建一個(gè)光計(jì)算原型,實(shí)現(xiàn)了約320Gflops的處理速度,且能效非常低。去年上半年,Optalysys推出了入門級光學(xué)協(xié)處理器FT: X2000,計(jì)劃出售給包括計(jì)算機(jī)制造、國防及航空航天領(lǐng)域的部分合作伙伴及早期客戶。
▲Optalysys入門級光學(xué)協(xié)處理器FT: X2000
初創(chuàng)公司 Fathom Computing成立于2014年,其光子原型計(jì)算機(jī)在2014年時(shí)識別手寫數(shù)字的準(zhǔn)確率還只有30%左右,到2018年時(shí)已經(jīng)超過90%。其創(chuàng)始人Willam Andregg稱,這是機(jī)器學(xué)習(xí)軟件首次使用激光脈沖電路而非電力進(jìn)行訓(xùn)練。不過近兩年,這家創(chuàng)企似乎并未公開更多進(jìn)展。
2018年,成立兩年、總部位于法國巴黎的創(chuàng)企 LightOn宣布,它已經(jīng)開始在歐洲的數(shù)據(jù)中心測試自己的光學(xué)處理單元(OPU)技術(shù)。2020年6月,LightOn發(fā)表的新論文顯示,其光學(xué)神經(jīng)網(wǎng)絡(luò)訓(xùn)練芯片在運(yùn)行基于MNIST手寫數(shù)字?jǐn)?shù)據(jù)集訓(xùn)練的模型時(shí),學(xué)習(xí)率為0.01,測試準(zhǔn)確率達(dá)到95.8%;同一算法在GPU上的學(xué)習(xí)率為0.001、準(zhǔn)確率達(dá)97.6%。而該光學(xué)芯片的功耗效率要比GPU高出一個(gè)數(shù)量級。
論文鏈接:https://arxiv.org/pdf/2006.01475.pdf
當(dāng)然,名氣最盛的光子芯片創(chuàng)業(yè)者,當(dāng)屬曾在《自然·光子學(xué)》上發(fā)表封面文章、來自麻省理工學(xué)院的沈亦晨和尼克·哈里斯,兩人均在2017年成立光子芯片公司,都選擇Mach-Zehnder干涉儀光開關(guān)陣列(MZI)作為基礎(chǔ)計(jì)算單元,但具體的MZI結(jié)構(gòu)及陣列架構(gòu)有所不同。
沈亦晨在美國波士頓創(chuàng)辦 Lightelligence,在中國上海成立 曦智科技,發(fā)展了跨國多元團(tuán)隊(duì),是目前全球融資額最高的光子計(jì)算初創(chuàng)公司。
曦智科技在2018年獲得由百度風(fēng)投和美國半導(dǎo)體高管財(cái)團(tuán)領(lǐng)投的逾1000萬美元種子輪融資;2020年4月完成由經(jīng)緯中國和中金資本旗下中金硅谷基金領(lǐng)投、百度風(fēng)投繼續(xù)追加投資的2600萬美元A輪融資;2020年7月完成由和利資本投資的數(shù)千萬美元A+輪融資。
2019年4月,曦智科技發(fā)布全球首款光子芯片原型板卡,在運(yùn)行TensorFlow處理MNIST數(shù)據(jù)集的測試中取得百倍以上的速度提升,準(zhǔn)確率接近電子芯片(97%以上),而完成矩陣乘法所用的時(shí)間不到最先進(jìn)電子芯片的1/100。曦智科技計(jì)劃從2021年起為AI云計(jì)算帶來高效的量產(chǎn)產(chǎn)品。
尼克·哈里斯在波士頓創(chuàng)辦的 Lightmatter公司,則拿到了由谷歌風(fēng)投、星火資本、經(jīng)緯創(chuàng)投等投資的3300萬美元資金。
在2020年的芯片頂會(huì)Hot Chips上,Lightmatter展示了其用于AI推理加速的測試芯片Mars,該芯片利用硅光電學(xué)和MEMS技術(shù),通過由毫瓦級激光光源,為用光執(zhí)行矩陣向量乘法提供動(dòng)力。相較傳統(tǒng)電子芯片,其計(jì)算速度提升數(shù)個(gè)量級。
Lightmatter預(yù)計(jì)在2021年秋季推出這款測試芯片的首款商用產(chǎn)品,并為之打造了必要的軟件工具鏈。哈里斯稱其量產(chǎn)芯片在BERT、Resnet-50推理等工作負(fù)載上,能效將是AI芯片領(lǐng)導(dǎo)者NVIDIA旗艦芯片A100的20倍、吞吐量將是A100的5倍。
▲Lightmatter測試芯片Mars
看到《自然·光子學(xué)》上MIT團(tuán)隊(duì)刊發(fā)的論文后,正在研究光電子的中國北京交通大學(xué)2014級博士生白冰獲得了新的啟發(fā),他與十余位來自清華、北大等北京8所高校的博士生們一起,在2017年在北京創(chuàng)立 光子算數(shù)團(tuán)隊(duì),開始推進(jìn)光子AI芯片商業(yè)化。
光子算數(shù)于2018年9月獲得臻云創(chuàng)投、英諾天使基金投資的天使輪融資、2019年獲得由水木清華校友基金、常見投資、英諾天使基金、臻云創(chuàng)投等投資的A輪融資。
目前光子算數(shù)已研發(fā)可編程光子陣列芯片F(xiàn)PPGA(Field Programmable Photonic Gate Arrays),并基于此與北京高校一起打造了面向服務(wù)器的光電混合AI加速計(jì)算卡,能完成包括機(jī)器學(xué)習(xí)推理、時(shí)間序列分析在內(nèi)的一些定制化加速任務(wù)。
其計(jì)算卡已于2020年交由服務(wù)器廠商客戶進(jìn)行測試,在不到70W的運(yùn)行功耗下,能做三四十路1080P視頻同步處理,混合精度下峰值算力接近20TOPS,光部分為低精度,電部分為高精度。
從美國普林斯頓大學(xué)脫胎而出的美國光子AI芯片創(chuàng)企 Luminous Computing成立相對晚一些。
該公司由首席策略官M(fèi)ichael Gao、CEO Marcus Gomez和CTO Mitchell Nahmias在2018年聯(lián)合創(chuàng)立,于2019年籌得來自微軟創(chuàng)始人比爾·蓋茨、Uber首席執(zhí)行官Dara Khosrowshahi等知名投資者的900萬美元種子輪融資,2020年又籌得由Helios Capital領(lǐng)投的900萬美元A輪融資。
Nahmias在普林斯頓PhD期間的主要研究方向即是光子AI芯片。與MIT團(tuán)隊(duì)不同,他們采用的并非MZI,而是被稱為Broadcast and Weight的方案,相較MZI型方案多了光電轉(zhuǎn)換過程,且對相位不敏感。Nahmias稱其光子集成電路可以取代3000塊TPU板,更加節(jié)省能耗,且能突破現(xiàn)有AI芯片傳輸數(shù)據(jù)的瓶頸。
▲Broadcast and Weight方案的原理框架
這些創(chuàng)業(yè)團(tuán)隊(duì)的硬件均被設(shè)計(jì)為可以插入標(biāo)準(zhǔn)服務(wù)器和工作站中,可實(shí)現(xiàn)即插即用,并能與主流AI軟件配合使用,以滿足商用需求。
04 結(jié)語:光子計(jì)算踏上AI計(jì)算新征程
訓(xùn)練AI模型需要超高算力的計(jì)算機(jī)芯片,這使得芯片巨頭、初創(chuàng)公司之間展開一場圍繞AI計(jì)算的全新角逐。
如今光子計(jì)算仍處早期階段,站在這一全新計(jì)算賽道上的玩家們,幾乎沒有前路可以借鑒,他們正頂著技術(shù)挑戰(zhàn)、落地風(fēng)險(xiǎn)等方面的壓力,試圖構(gòu)建起光子計(jì)算生態(tài),探索著改變計(jì)算的可能。
對于投資者來說,新興計(jì)算技術(shù)仍充滿風(fēng)險(xiǎn)。但隨著世界對多元計(jì)算方式的需求增加,以光子計(jì)算、神經(jīng)擬態(tài)芯片、量子芯片等為代表的新興計(jì)算方法,正被寄予打破標(biāo)準(zhǔn)計(jì)算系統(tǒng)制約的期待。
這是件令人期待的事情,光學(xué)計(jì)算已經(jīng)在商業(yè)化道路上邁出了重要的一步,而一旦有初創(chuàng)公司解決工程化挑戰(zhàn)、取得落地商用的成功,光學(xué)計(jì)算革命的大門或?qū)⒂纱碎_啟。
責(zé)任編輯:PSY
-
計(jì)算機(jī)
+關(guān)注
關(guān)注
19文章
7536瀏覽量
88643 -
AI
+關(guān)注
關(guān)注
87文章
31520瀏覽量
270339 -
光子芯片
+關(guān)注
關(guān)注
3文章
99瀏覽量
24474
發(fā)布評論請先 登錄
相關(guān)推薦
評論