1月22日?qǐng)?bào)道,日前,AMD正式啟動(dòng)第三代人工智能及高性能計(jì)算(HPC)加速器Instinct MI300X的批量生產(chǎn),并首先向核心合作伙伴L(zhǎng)aminaAI提供。借助MI300X的強(qiáng)大運(yùn)算能力,LaminaAI將以滿足企業(yè)用戶的高端需求為目標(biāo),實(shí)現(xiàn)大語(yǔ)言模型(LLM)的高效運(yùn)轉(zhuǎn)。
LaminaAI作為AMD的長(zhǎng)期合作伙伴,能夠搶先體驗(yàn)到全新MI300X加速器的強(qiáng)大優(yōu)勢(shì),實(shí)屬正常。該公司首席執(zhí)行官Sharon Zhou在社交媒體進(jìn)行了公告,同時(shí)透露,已經(jīng)接收到配置8個(gè)Instinct MI300X加速器的設(shè)備,其中包括首批正在生產(chǎn)的AMD MI300X,以及即將推出的LaminaAI下一代LLM集群。
據(jù)悉,MI300X是AMD Instinct MI300系列中的旗艦型號(hào),專為AI和HPC設(shè)計(jì),相比前代產(chǎn)品,它采用了更少的x86 CPU內(nèi)核,轉(zhuǎn)而搭載數(shù)量超過(guò)MI300A的304個(gè)CDNA 3計(jì)算單元,內(nèi)存容量方面亦有顯著提升, 達(dá)到了驚人的192GB HBM3。在峰值帶寬方面,更可達(dá)到頂級(jí)的5.3 TB/s,性能遠(yuǎn)超同行。
據(jù)AMD官方測(cè)試數(shù)據(jù)顯示,MI300X綜合表現(xiàn)出眾,超越 NVIDIA H100 80GB,且有望對(duì)H200 141GB構(gòu)成競(jìng)爭(zhēng)壓力。包括Meta和Microsoft在內(nèi)的領(lǐng)先企業(yè)均大規(guī)模采購(gòu)了AMD Instinct MI300系列新品,而LaminaAI則成為公開(kāi)使用 MI300X的首家公司。
-
amd
+關(guān)注
關(guān)注
25文章
5499瀏覽量
134640 -
加速器
+關(guān)注
關(guān)注
2文章
807瀏覽量
38088 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
538瀏覽量
10341
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論