觸覺智能EVB3588實測運行大模型，效果nice！
開源鴻蒙硬件方案領跑者觸覺智能
本文基于觸覺智能IDO-EVB3588開發(fā)板，運行大模型。效果搶先看！
視頻使用的主板采用瑞芯微RK3588處理器，是全新一代AloT高端應用芯片，采用8nm LP制程，搭載八核64位CPU，四核Cortex-A76和四核Cortex-A55架構(gòu)，主頻高達2.4GHz。
6TOPS AI算力，三核架構(gòu)，支持int4/int8/int16/FP16/BF16/TF32；
支持H.265/H.264/AV1/VP9/AVS2視頻解碼， 最高8K60FPS；
支持 H.264/H.265視頻編碼， 最高8K30FPS；
支持HDMI2.1輸出，最高8K@60Hz；
支持HDMI2.0 輸入， 最高4K60FPS；
支持多攝像頭輸入；
雙通道LVDS，支持到1080P@60Hz 大屏幕 ；
多屏異顯；
兩路獨立的千兆以太網(wǎng)口，支持WAN口+LAN口 雙IP ；
豐富的系統(tǒng)支持， Android 12，Ubuntu，鴻蒙OpenHarmony全面支持。
1、運行在開發(fā)板上可以通過CPU直接部署運行模型，可以在終端中直接對話：
視頻效果如下所示：
CPU調(diào)用情況:
同時，通過調(diào)整模型，可以在NPU上部署運行大模型，3588開發(fā)板的NPU擁有6T的算力，可以加速模型運行。運行qwen1.8b模型占用情況如下
2、網(wǎng)頁調(diào)用模型API
模型部署后可以暴露API供其他應用使用，例如Web網(wǎng)頁調(diào)用API接口實現(xiàn)對話功能。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
開發(fā)板
+關注
關注
25文章
5121瀏覽量
98202 -
觸覺智能
+關注
關注
1文章
41瀏覽量
372 -
大模型
+關注
關注
2文章
2550瀏覽量
3170
發(fā)布評論請先 登錄
相關推薦
Ubuntu20.04取消root賬號自動登錄的方法，觸覺智能RK3568開發(fā)板演示
Ubuntu20.04默認情況下為root賬號自動登錄，本文介紹如何取消root賬號自動登錄，改為通過輸入賬號密碼登錄，使用觸覺智能EVB3568鴻蒙開發(fā)板演示
Linux系統(tǒng)更換開機logo方法教程，觸覺智能RK3562開發(fā)板演示
本文介紹Linux系統(tǒng)更換開機logo方法教程，通用RK3566、RK3568、RK3588、RK3576等開發(fā)板，觸覺智能RK3562開發(fā)板演示
瑞芯微平臺Android系統(tǒng)串口測試方法，觸覺智能RK3562開發(fā)板演示
瑞芯微方案主板Android系統(tǒng)串口測試方法，通用RK3568、RK3566、RK3588、RK3576等。觸覺智能RK3562開發(fā)板演示
工業(yè)級智能主機：EC-A3588JD4
EC-A3588JD4人工智能主機，采用Rockchip旗艦級RK3588芯片，提供6TOPS算力，支持主流大模型私有化部署；支持外部看門狗，擁有工業(yè)級的穩(wěn)定性，適用于ARMPC、邊緣
如何在Linux系統(tǒng)實現(xiàn)屏幕旋轉(zhuǎn)？觸覺智能RK3568鴻蒙開發(fā)板演示
本文介紹Linux系統(tǒng)實現(xiàn)屏幕旋轉(zhuǎn)的方法，以解決產(chǎn)品形態(tài)的不同的展現(xiàn)方式，觸覺智能EVB3568鴻蒙開發(fā)板演示，現(xiàn)已發(fā)布全新OpenHarmony5.0 Release固件!
觸覺智能SOM3588S鴻蒙核心板現(xiàn)已上市，瑞芯微RK3588S八核，6T超高算力，豐富音視頻接口！
觸覺智能SOM3588S鴻蒙核心板，搭載瑞芯微RK3588S芯片，采用4.5*5cm超小尺寸郵票孔+LGA封裝，10層盲埋孔沉金工藝！內(nèi)置八核64位CPU，Mali-G610四核GPU
全志A133開發(fā)板安卓系統(tǒng)調(diào)試串口復用成普通串口方法-觸覺智能EVB1309
本文介紹了在開發(fā)板/主板串口接口不夠的情況下，可將調(diào)試串口改為普通串口使用。基于觸覺智能的全志A133開發(fā)板（型號EVB1309）演示，該主板高性能超低功耗，待機功耗低至15mW
瑞芯微RK3588開發(fā)板Linux系統(tǒng)添加自啟動命令的方法，深圳觸覺智能Arm嵌入式鴻蒙硬件方案商
本文適用所有Linux系統(tǒng)的開發(fā)板、主板添加自啟動命令的方法，本次使用了觸覺智能的EVB3588開發(fā)板演示，搭載了瑞芯微RK3588旗艦芯片，深圳觸
瑞芯微RK3566開發(fā)板USB OTG模式介紹及命令切換，觸覺智能EVB3566主板鴻蒙硬件廠商
本文USB OTG模式介紹及命令切換，適用于嵌入式工程師、硬件開發(fā)教程入門學習課程。設備為觸覺智能開發(fā)的瑞芯微RK3566開發(fā)板，型號IDO-EVB3566，支持開源鴻蒙Openharmony、安卓Android、Linux的D
基于RK3588的NPU案例分享！6T是真的強！
、PyTorch、Caffe、MXNet等在人工智能開發(fā)中流行的深度學習框架，能夠為開發(fā)者提供豐富的工具和庫，使他們能夠方便地進行模型訓練和推理，可輕松應對各種大數(shù)據(jù)運算場景。RK3588 NPU典型工業(yè)
發(fā)表于 07-17 10:55
實測分享，瑞芯微RK3588八核國產(chǎn)處理器性能測評！確實“遙遙領先”！
的圖形處理，適用于需要高運算能力的工業(yè)自動化系統(tǒng)和工業(yè)物聯(lián)網(wǎng)設備。
運動控制器：RK3588可提供精確的實時控制和數(shù)據(jù)處理能力，適用于各種運動控制應用。
醫(yī)療智能設備：RK3588可提供多路4K/8K
發(fā)表于 07-17 10:49
SBC3588主板發(fā)布，助力多個行業(yè)升級
開源鴻蒙硬件方案領跑者觸覺智能隨著人工智能、物聯(lián)網(wǎng)和自動駕駛等技術的不斷迭代，觸覺智能全新推出基于RockchipRK
快來看！公司新來的00后如何解決EVB3588攝像頭曝光增益不生效問題
介紹本文所用產(chǎn)品為觸覺智能旗下的IDO-EVB3588-V1開發(fā)板。EVB3588是由瑞芯微最新旗艦SOC芯片RK3588設計的評估主板。R
工商網(wǎng)監(jiān)
評論