近日,摩爾線程與國內領先的數據智能服務商滴普科技共同宣布,摩爾線程夸娥(KUAE)千卡智算集群與滴普企業大模型Deepexi已完成訓練及推理適配。基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了700億參數LLaMA2大語言模型的預訓練測試,訓練時長共計77小時,全程無故障連續運行,集群訓練穩定性達到100%,訓練效率和兼容性均達到預期。
滴普科技作為數據智能服務商,以數據智能技術為基礎,為客戶提供數據智能基礎設施、企業大模型產品,以及數據智能創新服務?;谝焉疃确盏念^部客戶所積累的深厚數據能力,滴普科技構建的Deepexi企業大模型,在語義、視覺、語音、跨模態等方面的能力均表現優越,能夠運用模型工具鏈為企業提供高質量的數據準備、模型訓練、調優、部署及推理服務,快速構建企業不同領域模型以及智能體應用,幫助企業實現從數據驅動到智能驅動的升級。
此次,摩爾線程與滴普科技的合作,借助夸娥千卡智算集群全棧方案的模型覆蓋、推理加速、CUDA兼容、斷點續訓、分布式訓練、集群可靠性等8大核心能力,為構建國產化數智賦能底座奠定堅實基礎。同時,夸娥千卡智算集群作為業內首個跑通、跑完國產大模型的千卡集群,以全功能GPU為底座,提供軟硬一體化的全棧解決方案?;诖舜魏献?,雙方能夠為各行各業提供全國產大模型解決方案,廣泛應用于訓練、微調和實時推理等場景。
目前,滴普科技已與中國海誠、中核裝備院、百麗時尚等企業開展產業落地實踐,成為產業大模型落地的領先企業。未來,摩爾線程與滴普科技將繼續發揮雙方在技術、場景和軟硬件協同方面的優勢,在能源、金融、先進制造等領域,以及與央企、國企的合作中,共同探索全國產化解決方案的落地機會,推動人工智能在更多產業領域的應用,助力企業實現智能升級,賦能行業高質量發展。
-
gpu
+關注
關注
28文章
4773瀏覽量
129349 -
人工智能
+關注
關注
1796文章
47664瀏覽量
240256 -
摩爾線程
+關注
關注
2文章
202瀏覽量
4664 -
大模型
+關注
關注
2文章
2545瀏覽量
3161
原文標題:摩爾線程 × 滴普科技|完成大模型訓練與推理適配
文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論