近日,由上海天數智芯半導體有限公司(以下簡稱“天數智芯”)主導的DeepSpark開源社區正式發布了百大應用開放平臺24.06版本。 百大應用開放平臺作為國內領先的AI和通用計算應用開發及評測平臺,甄選上百個與行業應用深度耦合的開源算法和模型,支持主流生態應用框架,并針對行業需求構建多維度評測體系,廣泛支持各類落地場景。
本次24.06版本首度上線了多維度評測系統社區版,旨在從速度、精度、顯存占用、功耗、線性度、穩定性等多個維度來全面評價通用GPU加速卡在模型訓練或推理中的綜合表現。多維度評測系統社區版首期支持的36個訓練模型均來自DeepSparkHub百大訓練模型庫,歡迎社區用戶使用體驗。
同時,24.06版本繼續豐富DeepSparkHub百大模型訓練庫和DeepSparkInference推理模型庫中的模型示例。
24.06版本在DeepSparkHub百大訓練模型庫中新增了7個基于PyTorch框架的模型以及對OpenPCDet工具箱的支持,同時上線了8個基于DeepSpeed、Megatron-DeepSpeed和Firefly的大語言模型訓練示例。迄今為止在DeepSparkHub百大訓練模型庫累計開源上線的模型數量達到了276個。
24.06版本在DeepSparkInference推理模型庫中新增了基于天數智芯自研推理引擎IGIE和IxRT的31個推理模型示例,同時還新增了4個基于vLLM、TensorRT-LLM和Text Generation Inference的大語言模型推理示例。值得一提的是,今年6月天數智芯與啟智社區合作舉辦的芯動開源首場-天數智芯專場活動中全面采用了來自DeepSparkInference的推理模型,社區用戶累計完成了近300次推理模型執行和結果提交,充分展現了智鎧100通用GPU推理加速卡的通用性。
隨著DeepSparkHub百大訓練模型庫和DeepSparkInference推理模型庫的持續豐富,進一步展示了天數智芯通用GPU產品天垓和智鎧的通用性和易用性。歡迎行業合作伙伴、社區用戶和開發者以任何形式參與DeepSpark開源社區。
審核編輯:彭菁
-
AI
+關注
關注
87文章
31513瀏覽量
270328 -
開源
+關注
關注
3文章
3402瀏覽量
42711 -
模型
+關注
關注
1文章
3305瀏覽量
49220 -
天數智芯
+關注
關注
0文章
97瀏覽量
5581
原文標題:DeepSpark 開源社區百大應用開放平臺24.06版本正式發布
文章出處:【微信號:IluvatarCoreX,微信公眾號:天數智芯】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
開源鴻蒙操作系統5.0 Release版本發布
Alpine操作系統社區發布龍架構版本
開放原子開源運營專區正式上線
中軟國際參加openEuler 24.03 LTS版本發布會
如意香山筆記本軟件適配工作穩步推進,成功運行多款Linux發行版及國產辦公套件
【AWTK最新動態】AWTK 1.8版本發布
![【AWTK最新動態】AWTK 1.8<b class='flag-5'>版本</b><b class='flag-5'>發布</b>](https://file.elecfans.com/web2/M00/50/DA/pYYBAGLH6TyAB71EAAAPQ7KgtYA038.png)
評論