近日，2023百度云智大會(huì)于北京圓滿落幕。眾多人工智能領(lǐng)域?qū)＜摇⑿袠I(yè)精英、意見領(lǐng)袖等齊聚一堂，共同站在大模型重構(gòu)未來的新起點(diǎn)，展望大模型創(chuàng)新發(fā)展之路。

作為百度四層架構(gòu)的堅(jiān)實(shí)算力底座，昆侖芯攜兩代芯片產(chǎn)品重磅亮相主會(huì)場(chǎng)及“智能計(jì)算&大模型技術(shù)論壇”展區(qū)。昆侖芯科技芯片研發(fā)總監(jiān)漆維在專題論壇上進(jìn)行精彩主題演講，獲得與會(huì)嘉賓及各級(jí)媒體的廣泛關(guān)注。

大會(huì)期間，昆侖芯以多媒體形式展示芯片產(chǎn)品的領(lǐng)先性能優(yōu)勢(shì)，為嘉賓直觀呈現(xiàn)昆侖芯產(chǎn)品強(qiáng)大性能以及賦能千行百業(yè)的落地成果。

在百度的四層架構(gòu)中，昆侖芯作為強(qiáng)大算力底座，通過對(duì)市場(chǎng)需求的深刻洞察，率先布局大模型領(lǐng)域。同時(shí)，昆侖芯與框架、模型、應(yīng)用層高效協(xié)同，通過端到端軟硬逐層優(yōu)化，攜手打造大模型端到端解決方案，實(shí)現(xiàn)了百家客戶、數(shù)萬片規(guī)模部署。

“智能計(jì)算&大模型技術(shù)論壇”上，昆侖芯科技芯片研發(fā)總監(jiān)漆維帶來了“昆侖芯端到端大模型算力解決方案”主題分享。面對(duì)大模型時(shí)代計(jì)算的效率和成本問題，昆侖芯通過架構(gòu)創(chuàng)新、產(chǎn)品定義創(chuàng)新以及軟件創(chuàng)新，打造出基于自研核心架構(gòu)XPU-R的大模型產(chǎn)品矩陣。針對(duì)不同參數(shù)量級(jí)的大模型場(chǎng)景，昆侖芯兼具顯存和成本優(yōu)勢(shì)：

昆侖芯AI加速卡R200-8F面向百億以內(nèi)參數(shù)量級(jí)，相比同類型產(chǎn)品性能提升20%；

昆侖芯AI加速器組R480-X8面向百億至千億參數(shù)量級(jí)，性能達(dá)到同類型產(chǎn)品的1.5倍以上；

昆侖芯AI加速器組R480-X8集群針對(duì)千億以上參數(shù)量級(jí)，可實(shí)現(xiàn)多機(jī)多卡分布式推理。

“作為一款人工智能芯片，從芯片完成設(shè)計(jì)到真正走向行業(yè)落地，生態(tài)是其中非常重要的環(huán)節(jié)。”漆維在演講中分享了昆侖芯在軟件生態(tài)方面的成果。目前，昆侖芯提供了針對(duì)大模型場(chǎng)景的昆侖芯XFT（XPU Faster Transformer）推理加速庫、豐富的云原生插件。同時(shí)，昆侖芯已全面擁抱最大的大模型開源社區(qū)HuggingFace，打造了xHuggingface開源推理套件，并攜手飛槳等生態(tài)伙伴構(gòu)建軟硬一體的AI芯片生態(tài)。

當(dāng)前，大模型的技術(shù)生態(tài)正快速發(fā)展，驅(qū)動(dòng)產(chǎn)業(yè)實(shí)踐、行業(yè)創(chuàng)新應(yīng)用，而這離不開AI產(chǎn)業(yè)鏈各企業(yè)的加持。在圓桌論壇環(huán)節(jié)，漆維與同臺(tái)專家、優(yōu)秀企業(yè)家代表圍繞“大模型創(chuàng)新發(fā)展之路”展開深入探討。

漆維表示：“大模型技術(shù)的發(fā)展為國(guó)內(nèi)AI芯片企業(yè)帶來了良好的前景，但也帶來了算力需求及成本的挑戰(zhàn)。昆侖芯始終堅(jiān)持開拓創(chuàng)新，降低AI算力成本與使用門檻，加強(qiáng)與AI產(chǎn)業(yè)鏈上下游企業(yè)的合作，為市場(chǎng)提供更優(yōu)質(zhì)的產(chǎn)品和服務(wù)。目前，已有兩代昆侖芯AI芯片實(shí)現(xiàn)量產(chǎn)和規(guī)模部署，而在研的下一代產(chǎn)品將為大模型和AIGC等應(yīng)用提供更佳的性能體驗(yàn)。”

AI算力正成為數(shù)字基建的新抓手，以及制約大模型技術(shù)發(fā)展的關(guān)鍵要素。作為AI芯片領(lǐng)域的領(lǐng)軍企業(yè)，昆侖芯將繼續(xù)秉承“讓計(jì)算更智能”的使命，打造更高性能的芯片產(chǎn)品，提供更普惠的AI算力，攜手生態(tài)伙伴領(lǐng)跑大模型產(chǎn)業(yè)落地。

審核編輯：彭菁