MI300X是一款與NVIDIA旗艦顯卡H100相媲美的產品。它擁有8個XCD核心,304組CU單元和8組HBM3核心。顯存容量達到了192GB,相當于NVIDIA H100的2.4倍。同時,HBM內存帶寬高達5.2TB/s,Infinity Fabric總線帶寬也達到了896GB/s,遠超NVIDIA H100。
MI300X在性能和容量方面達到了前所未有的水平,特別適合進行AI計算。一張顯卡就能支持400億參數的大型模型。
據悉,MI300X的HBM密度是英偉達H100的2.4倍,帶寬則是H100的1.6倍。這使得MI300X在具體應用效果上表現出色。它可以支持400億參數的Hugging Face AI模型,單塊MI300X能夠支持高達800億參數規模的模型。
MI300X的硬件能力與市場上的英偉達產品相當。它擁有高達192GB的內存,超過了英偉達競爭對手H100所支持的120GB內存。這意味著MI300X可以承載比其他芯片更大規模的AI模型。
據AMD公司表示,MI300X將在第三季度逐步推出,并在第四季度開始大規模生產,屆時將配備192GB內存。
MI300X的問世將為市場帶來更多選擇,并提供強大的硬件能力,以滿足不斷增長的AI計算需求。除此之外,MI300A已經開始向客戶銷售。
編輯:黃飛
-
amd
+關注
關注
25文章
5496瀏覽量
134635 -
NVIDIA
+關注
關注
14文章
5076瀏覽量
103720 -
HBM
+關注
關注
0文章
386瀏覽量
14836
發布評論請先 登錄
相關推薦
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰
IBM與AMD攜手部署MI300X加速器,強化AI與HPC能力
IBM將在云平臺部署AMD加速器
![](https://file1.elecfans.com/web1/M00/F5/5F/wKgZoWc8IymAaHfeAADGXMGf8v0390.png)
IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器
AMD發布新版Instinct MI325X
AMD發布新一代AI芯片MI325X
三星首度引入AMD MI300X,緩解AI GPU短缺
AMD發布全新AI芯片Instinct MI325X
AMD發布AI芯片MI325X 預計2024年第四季度上市
微軟將采用AMD AI芯片以替代英偉達,為云計算提供更優解決方案
人工智能市場風向轉變,AMD Instinct MI300X GPU更受歡迎
AMD Instinct MI300新版將采用HBM3e內存,競爭英偉達B100
英偉達繁榮背后的挑戰 仍面臨著各種內憂外患
![英偉達繁榮背后的挑戰 仍面臨著各種內憂外患](https://file1.elecfans.com/web2/M00/C1/5D/wKgaomXVlcCAVPE4AAAPCeQ-rMI605.jpg)
評論