TinyML人工智能算法的運行離不開計算的硬件 - 微控制器（MCU），借助TinyML工具、NPU的硬件加速以及平臺化的部署，大大提升微控制器（MCU）產(chǎn)品的計算效能，為人工智能應用開辟了新的發(fā)展市場。眾多微控制器廠商的共同參與，也為市場提供了更多更具創(chuàng)新的產(chǎn)品或解決方案。這也將為“兼容機”時代的微控制器（MCU）帶來了新的發(fā)展機遇，必將會開啟新一個賽道。

AI正在推動邊緣更加智能化，而邊緣設備也讓AI無處不在。可以預見，未來十年，AI將成為推動MCU市場增長的主要力量。隨著AI深入到邊緣和終端裝置，邊緣計算的發(fā)展成為推動全球MCU市場增長的主要趨勢之一。以前的AI運算和機器學習主要在云端完成，但現(xiàn)在它們正在逐漸向邊緣端發(fā)展。而邊緣AI并不會止步于手機、電腦這些具備SoC級別算力的終端，而是會繼續(xù)向著MCU為主控的物聯(lián)網(wǎng)設備蔓延。隨著AI在邊緣的落地，硬件CNN在端側MCU的集成已經(jīng)成為一種技術趨勢。

微控制器（MCU）廠商并購人工智能公司布局TinyML

• 2021年5月，意法半導體收購邊緣AI軟件專業(yè)開發(fā)公司Cartesiam
• 2022 年 7 月，瑞薩電子收購了嵌入式AI解決方案優(yōu)秀供應商Reality Analytics, Inc.（Reality AI）
• 2023 年 5 月 ，英飛凌宣布已收購TinyML初創(chuàng)企業(yè)Imagimob公司
• 2023 年 8 月，Nordic公司宣布收購美國人工智能和機器學習公司Atlazo

BTW

ST將推出集成NPU的STM32N6，NXP推出了集成一個DSP協(xié)處理器和神經(jīng)處理單元(NPU)的MCX產(chǎn)品組合，Microchip提供 MPLAB 機器學習開發(fā)套件來提升其產(chǎn)品的機器學習能力。

布局TinyML的路徑

從目前各微控制器（MCU）廠家和業(yè)界的應用情況來看，布局TinyML的路徑大致有以下三個：

TinyML工具

集成神經(jīng)網(wǎng)絡處理器（Neural Processing Unit，NPU）協(xié)處理器

TinyML平臺

相對于大語言模型來說，TinyML 是一種小的或極小規(guī)模的機器學習。TinyML本身是一種軟件算法，是對數(shù)據(jù)分析和處理的一種計算處理方法，通過構建機器學習模型來進行推理，業(yè)界也有一些通用的TinyML機器學習模型。TinyML需要借助軟件和工具對采集來的數(shù)據(jù)進行分析和處理、推理和驗證等。在不斷地對模型進行優(yōu)化處理后，還需要將將其轉換為微控制器（MCU）這類性能較弱、資源較少的微控制器（MCU）可以運行的固件。TinyML工具有助于人工智能的開發(fā)應用，讓復雜的人工智能軟件的開發(fā)變得簡單快捷。

NPU是一種神經(jīng)網(wǎng)絡單元，專用于神經(jīng)網(wǎng)絡的計算，隨著人工智能應用對計算資源的需求越來越高、任務越來越復雜，對神經(jīng)網(wǎng)絡的計算需求要求也越來越高，微控制器（MCU）中的ALU（算術運算單元AU和邏輯運算單元LU）不足以支持復雜的神經(jīng)網(wǎng)絡的計算需求，將NPU硬件化并集成在微控制器（MCU）內部作為協(xié)處理器，可以大大提升人工智能應用的計算效率。NPU實質上也是一種專用的硬件計算單元。

一般地，基于微控制器（MCU）設計開發(fā)的產(chǎn)品，其固件可以用幾年，甚至到其生命周期才結束。固件在其驗證穩(wěn)定后一般不再需要更改。隨著產(chǎn)品部署規(guī)模的不斷擴大，產(chǎn)品不斷地迭代更新，需要對微控制器（MCU）中的固件進行更新，通過一個平臺可以對設備進行較好的管理和維護。而TinyML平臺不僅需要對固件進行迭代升級，還可以對數(shù)據(jù)進行收集、機器學習模型不斷地進行訓練，不斷地優(yōu)化模型，使得模型的精度越來越高。另一方面，本地的微控制器（MCU）的計算資源，不足以支持大量數(shù)據(jù)的存儲和對模型訓練優(yōu)化等任務。TinyML需要一個高性能的計算平臺來支撐人工智能產(chǎn)品的不斷迭代。

國內MCU廠商大部分仍處于模仿兼容傳統(tǒng)STM32的同質化水平，忙于內卷比拼價格，生存還是個問題，基本上還顧不上未來的布局。

下一個loT市場將重構

根據(jù)loTAnalytics的數(shù)據(jù)，2022年全球活躍的物聯(lián)網(wǎng)設備連接數(shù)達到了143億個，預計到2027年數(shù)量將達到297億個，年復合增長率達16%。

從通用MCU到IoT MCU，再到具備TinyML特質的IoT MCU，微控制器的發(fā)展與整個消費電子設備的演進浪潮緊密相連。單品MCU已經(jīng)不足以滿足當下IoT開發(fā)者的需求，選擇一顆MCU即選擇了一個完整的開發(fā)生態(tài)。

在AIoT時代，MCU的變化需要兼顧硬件和軟件兩個方面。

• 在硬件層面，要求更高的處理能力、更多的安全組件、多種連接能力以及更低功耗；
• 在軟件層面，操作系統(tǒng)從任務調度發(fā)展為IoT OS平臺，軟件復雜度大幅增加，需要平臺級軟件及工具；
• 在生態(tài)系統(tǒng)層面，各種云服務公司進入嵌入式系統(tǒng)生態(tài)圈，并且與算法公司、純軟件公司合作增多。

此外，生態(tài)層面的變化也正在拉開大幕。在AIoT時代，眾多云服務公司進入到嵌入式領域，MCU需要開放API接口等；而且MCU需要與算法公司進行合作，以適配實現(xiàn)高效算力；操作系統(tǒng)層面云服務廠商的染指也將引發(fā)更多的爭斗。

而無線模組硬件成本的大幅縮減往往意味著，AIoT行業(yè)正在從拓荒期進入成長期，從小規(guī)模的摸索嘗試轉向大規(guī)模的經(jīng)驗復制。這表明AIoT時代的嵌入式系統(tǒng)由功能型向體驗型方向轉型，保持高效就需要分工，并要產(chǎn)生聚集效應實現(xiàn)規(guī)?；?。

結尾：

在人工智能時代，MCU這個芯片領域的資深前輩仍然能夠保持其領先地位，展現(xiàn)出歷久彌新的特質。在可以預見的未來，MCU將成為物聯(lián)網(wǎng)邊緣不可或缺的核心組件。我們正在邁入AIoT時代，AI深入到邊緣和終端裝置，已經(jīng)是一個長期必然的大方向。做好技術準備國產(chǎn)廠商方能迎接未來轉折窗口的挑戰(zhàn)。

審核編輯 黃宇