在大力發展新質生產力背景下,人工智能正成為高質量發展的最大增量。而大模型以其模型精度高、泛化能力強、支持多模態的特點,成為人工智能技術發展的核心方向。
當下,大模型在企業數字化場景的落地中會遇到,場景選擇、數據準備、模型訓練、算力獲取、效率提升等諸多挑戰。基于此,中軟國際在整合大模型應用架構各層能力和生態資源后,打造大模型開發和應用服務的專業平臺--中軟國際模型工場,為政企客戶、模型供應商、算力中心提供從規劃設計到應用落地的一站式端到端大模型應用開發服務。
▲中軟國際模型工場服務架構
政企客戶服務場景
在面向政企客戶的大模型應用開發場景時,模型工場基于主流大模型為底座,以咨詢引導、模型賦能、應用落地,三個層次的服務架構,采用咨詢導入、規劃設計、原型驗證、模型微調/應用開發、應用集成、部署運營的六步應用開發工程法,為政企客戶提供從概念到部署的全周期服務。
模型供應商服務場景
在面向模型供應商的服務場景時,模型工場可提供模型場景調研分析及設計、數據標注、Prompt撰寫及優化、模型工程部署、AI應用集成開發支持、模型遷移、模型開發和訓練、模型運維的八大服務。
模型場景調研分析及設計服務:根據客戶場景、數據的調研與分析,識別客戶業務中存在的痛點及需求,提供模型選型與落地實施方案。
▲模型場景調研分析及設計服務
數據標注管理服務:為客戶提供數據采集與標注服務,包括數據采集處理、標注審核、質檢評估及發布等服務,數據集版本管理,支撐模型數據訓練和推理。
▲數據標注管理服務
Prompt撰寫及優化服務:結合客戶NLP任務目標,以及數據分布和特征規律,編寫合適的Prompt,并進行優化調整。
▲Prompt撰寫及優化服務
模型開發和訓練服務:基于ModelArts平臺,構建L2級AI模型開發工程,包括模型設計、特征工程、模型訓練、驗證融合等開發實施。
▲模型開發和訓練服務
模型工程部署服務:把模型部署在生成環境,并實時進行模型推斷,提升模型運行效率。
▲模型工程部署服務
AI應用集成開發支持服務:根據業務應用需求,實現基于大模型進行業務應用開發和實施服務。
▲AI應用集成開發支持服務
模型遷移服務:提供業務、應用及模型、算法及算子的昇騰環境遷移,并提供調測及集成對接等服務。
▲模型遷移服務
模型運維服務:針對私域模型的訓練、推理和部署過程,提供有效管理和維護服務,保障模型穩定高效運行。
▲模型運維服務
算力中心服務場景
在面向算力中心服務場景時,中軟國際自主研發了大模型運營管理系統(LMBSS),全面提升算力中心在大模型運營領域的核心競爭力。該系統可構建多種大模型納管與商品化,支持大模型資源的全生命周期流程管理,提供大模型運營業務中靈活的計量計費,提供合同、折扣、營銷、發票、工單等運營支撐服務能力,助力智算中心構建一體化大模型服務平臺,推動客戶構建大模型服務生態。
▲LMBSS大模型運營管理系統
打通AI應用最后一公里!中軟國際模型工場正成為推動千行百業智能化升級的重要力量,助力行業向更高效,更智能的未來邁進,攜手客戶、伙伴共同探索大模型在企業服務的無限可能。
-
人工智能
+關注
關注
1796文章
47666瀏覽量
240282 -
中軟國際
+關注
關注
0文章
534瀏覽量
7250 -
大模型
+關注
關注
2文章
2545瀏覽量
3164
原文標題:共贏數智新機遇 | 中軟國際模型工場,打通大模型應用最后一公里!
文章出處:【微信號:CSI00354,微信公眾號:中軟國際】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論