據報道,當地時間3月19日,英偉達于GTC開發者大會上發布了以處理百億參數AI模型為核心的新品——DGX SuperPOD,旨在助力超大規模AI訓練和推理工作負載實現穩定而高效的性能輸出。
據悉,新型DGX SuperPOD采用全新的高效水冷機架式設計,搭載英偉達DGX GB200系統,FP4精度下具備11.5 exaflops的人工智能超級計算力以及240 terabytes的高速內存。用戶可以通過加裝機架進行持續擴充。
一套DGX GB200系統內含36塊英偉達GB200加速卡,其中包含36顆英偉達Grace CPU以及72顆英偉達Blackwell GPU,經由第五代英偉達NVLink技術組合成一具高性能超算。
相較于英偉達基于H100 Tensor Core GPU打造的產品,GB200加速卡在大型語言模型推理任務中的表現將有望提高最多30倍。
英偉達現有的DGX SuperPOD套裝包含至少8套DGX GB200系統,通過英偉達Quantum InfiniBand技術擴容后,能夠容納數萬枚GB200加速卡。
英偉達名譽主席及首席執行官黃仁勛指出,“英偉達的DGX系列人工智能超級計算機是智能化工業革命的催化劑。而此次推出的DGX SuperPOD集成了最先進的加速計算、網絡和軟件技術,使每一家企業、行業乃至國家均能充分利用該平臺完善并發展自身的人工智能技術”。
-
人工智能
+關注
關注
1796文章
47666瀏覽量
240286 -
加速卡
+關注
關注
1文章
61瀏覽量
10990 -
英偉達
+關注
關注
22文章
3847瀏覽量
91970
發布評論請先 登錄
相關推薦
英偉達Blackwell可支持10萬億參數模型AI訓練,實時大語言模型推理
英偉達推出Flextron AI框架:賦能靈活高效的AI模型部署
英偉達首席執行官黃仁勛:AI模型推動英偉達AI芯片需求
進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片
英偉達宣布收購Run:ai
英偉達戰略收購Run:ai,推進產品戰略,整合資源至Nvidia DGX C
NVIDIA Blackwell DGX SuperPOD助力萬億級生成式AI計算
NVIDIA推出搭載GB200 Grace Blackwell超級芯片的NVIDIA DGX SuperPOD?
NVIDIA 推出 Blackwell 架構 DGX SuperPOD,適用于萬億參數級的生成式 AI 超級計算

評論