您在嵌入式設備中實施人工智能模型時是否遇到困難?本篇文章將為您介紹DRP-AI TVM,它簡化了AI模型的實現。
近年來,人工智能已經在監控攝像頭、交通監控系統、機器人和無人機等嵌入式設備中得到實施。與云環境不同,嵌入式設備在實現人工智能方面有很多困難,比如要考慮HW性能、成本和功率限制。通過使用RZ/V系列AI-MPU和瑞薩的低功耗AI加速器DRP-AI,可以解決大部分HW實施的挑戰。
當客戶在我們的AI-MPU上實現AI模型時,他們使用DRP-AI翻譯器,將AI模型轉換為DRP-AI可執行文件,但一些客戶指出,這很難實現,有兩個主要原因:
01
DRP-AI翻譯器支持的唯一AI模型格式是ONNX。
02
如果模型包含DRP-AI翻譯器不支持的運算符,則不可能進行轉換。
到目前為止,瑞薩一直要求客戶自行處理此類情況,這對一些客戶來說是一種負擔。我們相信,解決這些問題將提高客戶的便利性,并發布了新的DRP-AI TVM。
DRP-AI TVM是一個開源的ML編譯器Apache TVM,支持DRP-AI。自動將DRP-AI翻譯器不支持的操作者分配給CPU,使其更容易支持更多的AI模型。它還可以處理ONNX以外的AI框架格式。此外,DRP-AI能夠以與傳統DRP-AI翻譯流程相同的方式處理AI推理的預處理,從而提高包括預處理在內的總的AI性能。
DRP-AI TVM的配置
![99021058-e6bc-11ed-ab56-dac502259ad0.png](https://file1.elecfans.com//web2/M00/9A/FE/wKgaomTnnOiAdEWQAADXi_sPKOc515.png)
用DRP-AI TVM對AI模型操作員
進行自動CPU分配
![9911f324-e6bc-11ed-ab56-dac502259ad0.png](https://file1.elecfans.com//web2/M00/9A/FE/wKgaomTnnOmAH6jwAAD8MsQrdLA898.png)
DRP-AI TVM可在GitHub上使用,方便客戶訪問。GitHub包含教程、示例代碼、各種人工智能模型的性能評估結果以及其他足以讓客戶使用產品的信息。這些教程包括在瑞薩評估板上從構建環境到推理的步驟,客戶可以通過這些步驟輕松評估他們的人工智能模型。瑞薩將繼續改善用戶體驗,使客戶更容易使用瑞薩的產品。
01
DRP-AI TVM由Edgecortix MERATM編譯器框架提供支持,DRP-AI的更多內容請點擊文末閱讀原文查看介紹頁
02
Apache TVM網站
https://tvm.apache.org/
03
RZ/V系列介紹
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv-embedded-ai-mpus
04
Renesas info wiki RZ/V系列
https://renesas.info/wiki/RZ-V
05
DRP-AI TVM GitHub
https://github.com/renesas-rz/rzv_drp-ai_tvm
06
DRP-AI TVM教程
https://www.renesas.cn/cn/zh/application/key-technology/artificial-intelligence/ai-accelerator-drp-ai/ai-tool-drp-ai-tvm
07
EVK購買鏈接:
? RZ/V2L評估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2l-evkit-rzv2l-evaluation-board-kit
? RZ/V2M評估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2m-evkit-rzv2m-evaluation-board-kit
? RZ/V2MA評估板套件
https://www.renesas.cn/cn/zh/products/microcontrollers-microprocessors/rz-mpus/rzv2ma-evaluation-board-kit-rzv2ma-evaluation-board-kit
1
END
1
瑞薩電子 (TSE: 6723)
科技讓生活更輕松,致力于打造更安全、更智能、可持續發展的未來。作為全球微控制器供應商,瑞薩電子融合了在嵌入式處理、模擬、電源及連接方面的專業知識,提供完整的半導體解決方案。成功產品組合加速汽車、工業、基礎設施及物聯網應用上市,賦能數十億聯網智能設備改善人們的工作和生活方式。更多信息,敬請訪問renesas.com
原文標題:工程師說 | 引入DRP-AI TVM以簡化AI模型的實施
文章出處:【微信公眾號:瑞薩電子】歡迎添加關注!文章轉載請注明出處。
-
瑞薩
+關注
關注
35文章
22310瀏覽量
86762
原文標題:工程師說 | 引入DRP-AI TVM以簡化AI模型的實施
文章出處:【微信號:瑞薩電子,微信公眾號:瑞薩電子】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
AI干貨補給站04 | 工業AI視覺檢測項目實施第三步:模型構建
![<b class='flag-5'>AI</b>干貨補給站04 | 工業<b class='flag-5'>AI</b>視覺檢測項目<b class='flag-5'>實施</b>第三步:<b class='flag-5'>模型</b>構建](https://file.elecfans.com/web2/M00/4F/E6/poYBAGLGUbCACFenAABTXFanQTU129.png)
中國AI企業創新降低成本打造競爭力模型
《AI for Science:人工智能驅動科學創新》第二章AI for Science的技術支撐學習心得
下一代高功能新一代AI加速器(DRP-AI3):10x在高級AI系統高級AI中更快的嵌入處理
![下一代高功能新一代<b class='flag-5'>AI</b>加速器(<b class='flag-5'>DRP-AI</b>3):10x在高級<b class='flag-5'>AI</b>系統高級<b class='flag-5'>AI</b>中更快的嵌入處理](https://file.elecfans.com/web1/M00/D9/4E/pIYBAF_1ac2Ac0EEAABDkS1IP1s689.png)
STM CUBE AI錯誤導入onnx模型報錯的原因?
為什么Cubeai導入模型的時候報錯[AI:persondetection] ModuleNotFoundError: No module named \'_socket\'?
紅帽發布RHEL AI開發者預覽版,集成IBM Granite模型,簡化AI開發流程
微軟MSN天氣服務引入全新AI模型
防止AI大模型被黑客病毒入侵控制(原創)聆思大模型AI開發套件評測4
![](https://file1.elecfans.com/web2/M00/C5/B3/wKgaomX36bOAWwIaAANAu9YHqu4433.png)
評論