ONNX Runtime支持龍架構，AI推理生態再添新翼
近日，備受矚目的AI推理框架開源社區ONNX Runtime宣布推出支持龍架構的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應用開發與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應用的首選基礎推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態層面為龍架構注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復雜的AI推理需求。
此次ONNX Runtime對龍架構的支持，無疑將進一步推動龍芯平臺在AI領域的應用和發展，為開發者提供更加廣闊的創新空間。同時，這也標志著龍架構軟件生態正在不斷完善，為未來的AI技術革新奠定了堅實基礎。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
龍芯
+關注
關注
3文章
349瀏覽量
31362 -
AI
+關注
關注
87文章
31534瀏覽量
270342 -
開源
+關注
關注
3文章
3407瀏覽量
42713
發布評論請先 登錄
相關推薦
生成式AI推理技術、市場與未來
OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相繼發布，預示著生成式AI研究正從預訓練轉向推理（Inference），以提升AI邏輯推理
Alpine操作系統社區發布龍架構版本
近日，開源軟件世界和云計算領域重要的操作系統發行版社區Alpine Linux正式發布3.21最新版本，以完整的系統形態實現對龍架構的原生支持，將有力促進龍
AMD以49億美元收購ZT Systems，強化AI芯片競爭力
AMD在AI領域的雄心壯志再添新翼，近日宣布以49億美元巨資并購全球領先的超大規模計算AI基礎設施提供商ZT Systems。這一戰略舉措不
英偉達推出全新NVIDIA AI Foundry服務和NVIDIA NIM推理微服務
NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務和 NVIDIA NIM 推理微服務，與同樣剛推出的 Llama 3.1 系列開源模型一起，為全球企業的生成式 AI 提供強力
STM CUBE AI錯誤導入onnx模型報錯的原因？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發表于 05-27 07:15
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
成為處理萬億參數生成式AI模型的理想選擇。
NVL72 機架級系統支持萬億參數 LLM 訓練和實時推理
GB200 NVL72 的機架級設計，通過在單個 NVIDIA NVLink 域上連接 72 個
發表于 05-13 17:16
必易微再添新翼 必易微青島辦事處正式成立
必易微砥礪奮進，再添新翼！ 近日，必易微青島辦事處正式成立，是必易微在華東區域的又一重要戰略布局。 青島作為國家打造“一帶一路”國際合作新平臺的重點城市，將集成電路產業放在新興產業發展重要位置，匯集
開發者手機 AI - 目標識別 demo
應用的demo。
應用程序通過相機進行預覽，對預覽畫面中的物體進行目標識別，目前該應用程序支持識別100種物體。
系統架構
下圖為demo應用以及Openharmony AI子系統的架構
發表于 04-11 16:14
將yolov5s的模型轉成.onnx模型，進行cube-ai分析時報錯的原因？
報錯顯示張量不能大于四維的，想請教解決一下，我再此之后通過onnx-simplifier對.onnx進行簡化之后再通過cube-ai進行分
發表于 03-15 06:54
使用cube-AI分析模型時報錯的原因有哪些？
使用cube-AI分析模型時報錯，該模型是pytorch的cnn轉化成onnx
```
Neural Network Tools for STM32AI v1.7.0 (STM.ai
發表于 03-14 07:09
微軟推出ONNX Runtime Web，利用WebGPU優化瀏覽器機器學習性能
作為微軟的 JavaScript 庫，ONNX Runtime Web 使得網絡開發者能在瀏覽器環境下部署機器學習模型，并提供多種硬件加速的后端支持。
工商網監
評論