那曲檬骨新材料有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

超級芯片GH200發布,AI算力是H100的兩倍

智能計算芯世界 ? 來源:智能計算芯世界 ? 2023-08-10 09:16 ? 次閱讀

英偉達在計算機圖形學頂會 SIGGRAPH 2023 上發布了專為生成式 AI 打造的下一代 GH200 Grace Hopper 平臺,并推出了 OVX 服務器、AI Workbench 等一系列重磅更新。

五年前,也是在 SIGGRAPH 大會的演講中,英偉達宣布將 AI 和實時光線追蹤引入 GPU ,可以說,當時的這個決定重塑了計算圖形學。

「我們意識到光柵化已經達到了極限,」黃仁勛表示:「這要求我們重塑硬件、軟件和算法。在我們用 AI 重塑 CG 的同時,也在為 AI 重塑 GPU?!?/p>

預言應驗了:幾年來,計算系統變得越來越強大,例如 NVIDIA HGX H100,它利用 8 個 GPU 和總共 1 萬億個晶體管,與基于 CPU 的系統相比,提供了顯著的加速。

「這就是世界數據中心迅速轉向加速計算的原因,」在今年的 SIGGRAPH 大會,黃仁勛重申:「The more you buy, the more you save.」

如今,訓練越來越大的生成式 AI 模型所需的計算未必由具有一定 GPU 能力的傳統數據中心來完成,而是要依靠像 H100 這樣從一開始就為大規模運算而設計的系統。可以說,AI 的發展在某種程度上只受限于這些計算資源的可用性。

但黃仁勛斷言,這僅僅是個開始。新模型不僅需要訓練時的計算能力,還需要實現由數百萬甚至數十億用戶實時運行的計算能力。

「未來,LLM 將出現在幾乎所有事物的前端:人類就是新的編程語言。從視覺效果到快速數字化的制造市場、工廠設計和重工業,一切都將采用自然語言界面。」黃仁勛表示。

在這場一個多小時的演講中,黃仁勛帶來了一系列新發布,全部面向「生成式 AI」。

更強的 GH200 Grace Hopper 超級芯片平臺

英偉達的 Grace Hopper 超級芯片 NVIDIA GH200 結合了 72 核 Grace CPU 和 Hopper GPU,并已在 5 月全面投入生產。

現在,黃任勛又宣布 Grace Hopper 超級芯片將配備 HBM3e 高帶寬內存(HBM3e 比當前的 HBM3 快 50%),下一代 GH200 Grace Hopper 平臺將大幅提升生成式 AI 的計算速度。

全新的 GH200 內存容量將增加至原有的 3.5 倍,帶寬增加至 3 倍,包含一臺具有 144 個 Arm Neoverse 核心、282GB HBM3e 內存的服務器,提供 8 petaflops 的 AI 算力。

為了提升大模型的實際應用效率,生成式 AI 模型的工作負載通常涵蓋大型語言模型、推薦系統和向量數據庫。GH200 平臺旨在全面處理這些工作負載,并提供多種配置。

英偉達表示,這款名為 GH200 的超級芯片將于 2024 年第二季度投產。

Nvidia AI Workbench,模型即服務

此外,為了加快全球企業定制化采用生成式 AI,老黃宣布英偉達即將推出 Nvidia AI Workbench。

盡管很多預訓練模型都是開源的,但使其定制化服務自身業務仍然具有挑戰性。AI Workbench 減輕了企業 AI 項目入門的復雜程度,將所有必要的企業級模型、框架、軟件開發套件和庫整合到統一的 workspace 之中。

只需要在本地系統上運行的簡化界面進行點擊,AI Workbench 就能讓開發者使用自定義數據微調 Hugging Face、GitHub 和 NGC 等流行存儲庫中的模型,然后將其擴展到數據中心、公有云或 Nvidia DGX 云。

黃仁勛還宣布英偉達將與 Hugging Face 合作,開發人員將能夠訪問 Hugging Face 平臺中的 NVIDIA DGX Cloud AI 超級計算來訓練和調整 AI 模型。這將使數百萬構建大型語言模型和其他高級 AI 應用程序的開發人員能夠輕松實現生成式 AI 超級計算。

「這將是一項全新的服務,將世界上最大的人工智能社區與世界上最好的訓練和基礎設施連接起來,」黃仁勛表示。

全新的 RTX 工作站和 Omniverse

老黃還宣布,英偉達與 BOXX、戴爾科技、惠普和聯想等工作站制造商合作,打造了一系列全新的高性能 RTX 工作站。

最新發布的 RTX 工作站提供多達四個英偉達 RTX 6000 Ada GPU,每個 GPU 配備 48GB 內存。單個桌面工作站可提供高達 5828 TFLOPS 的性能和 192GB 的 GPU 內存。

根據用戶需求,這些系統可配置 Nvidia AI Enterprise 或 Omniverse Enterprise 軟件,為各種要求苛刻的生成式 AI 和圖形密集型工作負載提供必要的動力。這些新發布預計將于秋季推出。

新發布的 Nvidia AI Enterprise 4.0 引入了 Nvidia NeMo,這是一個用于構建和定制生成式 AI 基礎模型的端到端框架。它還包括用于數據科學的 Nvidia Rapids 庫,并為常見企業 AI 用例(例如推薦器、虛擬助理和網絡安全解決方案)提供框架、預訓練模型和工具。

工業數字化平臺 Omniverse Enterprise 是 Nvidia 生態系統的另一個組成部分,讓團隊能夠開發可互操作的 3D 工作流程和 OpenUSD 應用程序。Omniverse 利用其 OpenUSD 原生平臺,使全球分布的團隊能夠協作處理來自數百個 3D 應用程序的完整設計保真度數據集。

此次英偉達主要升級了 Omniverse Kit(用于開發原生 OpenUSD 應用和擴展程序的引擎),以及 NVIDIA Omniverse Audio2Face 基礎應用和空間計算功能。開發者可以輕松地利用英偉達提供的 600 多個核心 Omniverse 擴展程序來構建自定義應用。

作為發布的一部分,英偉達還推出了三款全新的桌面工作站 Ada Generation GPU:Nvidia RTX 5000、RTX 4500 和 RTX 4000。

全新 NVIDIA RTX 5000、RTX 4500 和 RTX 4000 桌面 GPU 采用最新的 NVIDIA Ada Lovelace 架構技術。其中包括增強的 NVIDIA CUDA 核心(用于增強單精度浮點吞吐量)、第三代 RT 核心(用于改進光線追蹤功能)以及第四代 Tensor 核心(用于更快的 AI 訓練性能)。

Nvidia RTX 5000 Ada 一代 GPU。

這幾款 GPU 還支持 DLSS 3,為實時圖形提供更高水平的真實感和交互性,以及更大的 GPU 內存選項,用于大型 3D 模型、渲染圖像、模擬和 AI 數據集的無差錯計算。此外,它們還提供擴展現實功能,以滿足創建高性能 AR、VR 和混合現實內容的需求。

因為配備了第三代 RT Core,這幾款 GPU 的吞吐量高達上一代的 2 倍,使用戶能夠實時處理更大、保真度更高的圖像,將應用于藝術創作和設計生產。

RTX 5000 GPU 已經上市,并由 HP 和分銷合作伙伴發貨,而 RTX 4500 和 RTX 4000 GPU 將于秋季從 BOXX、Dell Technologies、HP、Lenovo 及其各自的分銷合作伙伴上市。

Nvidia OVX 服務器

英偉達還推出了配備 Nvidia L40S GPU 的 Nvidia OVX 服務器,用于生成式 AI 和數字化時代的開發和內容創作。

每臺 Nvidia OVX 服務器將支持多達 8 個 Nvidia L40S GPU,每個 GPU 配備 48GB 內存。L40S GPU 由 Nvidia Ada Lovelace GPU 架構提供支持,擁有第四代張量核心和 FP8 Transformer 引擎,可實現超過 1.45 petaflops 的張量處理能力。

Nvidia L40S GPU。

在具有數十億參數和多種數據模式的生成式 AI 工作負載領域,與 Nvidia A100 Tensor Core GPU 相比,L40S GPU 的生成式 AI 推理性能提高了 1.2 倍,訓練性能提高了 1.7 倍。這將更好地滿足 AI 訓練和推理、3D 設計和可視化、視頻處理和工業數字化等計算密集型應用的需求,加速多個行業的工作流程和服務。






審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • NVIDIA技術
    +關注

    關注

    0

    文章

    17

    瀏覽量

    6322
  • 晶體管
    +關注

    關注

    77

    文章

    9746

    瀏覽量

    138912
  • 英偉達
    +關注

    關注

    22

    文章

    3848

    瀏覽量

    91987
  • GPU芯片
    +關注

    關注

    1

    文章

    303

    瀏覽量

    5898
  • NGC
    NGC
    +關注

    關注

    0

    文章

    8

    瀏覽量

    3862

原文標題:超級芯片GH200發布,AI算力是H100兩倍

文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    英偉達H100芯片市場降溫

    隨著英偉達新一代AI芯片GB200需求的不斷攀升,其上一代明星產品H100芯片卻遭遇了市場的冷落。據業內人士透露,搭載
    的頭像 發表于 10-28 15:42 ?770次閱讀

    新華三發布多元異構平臺H3C UniServer G7

    10月25日資訊,紫光股份麾下的新華三集團近期揭曉了一系列智能計算新品,涵蓋多元異構平臺H3C UniServer G7系列、下一代AI數據存儲解決方案
    的頭像 發表于 10-26 16:24 ?704次閱讀

    馬斯克官宣超級AI訓練集群Colossus上線

    特斯拉CEO埃隆·馬斯克引領的科技巨浪再添新章,其傾力打造的超級AI訓練集群Colossus已正式投入運營。該集群自7月初步建成以來,已展現出驚人的10萬張H100 GPU
    的頭像 發表于 09-04 16:13 ?425次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構分析

    和像素統一的G80到現在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU線作戰;中國的高性能計算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片
    發表于 09-02 10:09

    氟化液 | 液冷在AI芯片降溫的應用

    已突破350W,NVIDIA的H100系列GPU芯片TDP更是達到700W,B100TDP或將達到1000W左右。英偉達GTC大會上,英偉達CEO黃仁勛發布了更高
    的頭像 發表于 07-27 08:10 ?745次閱讀
    氟化液 | 液冷在<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>降溫的應用

    只能跑Transformer的AI芯片,卻號稱全球最快?

    跑transformer架構的模型。 Sohu,比H100快上20 之所以打算Sohu這一自研ASIC AI芯片,是因為Etched認為GPU在性能升級上的速度太慢了。如果以
    的頭像 發表于 07-01 09:03 ?1513次閱讀

    英偉達巨資預訂HBM3E,力拼上半年市場

    在全球AI芯片領域的激烈競爭中,英偉達以其卓越的技術實力和市場影響,始終保持著領先地位。最近,這家AI芯片大廠再次展現出了其獨特的戰略眼光
    的頭像 發表于 06-22 16:46 ?1020次閱讀

    NVIDIA AI Enterprise榮獲金獎

    NVIDIA AI Enterprise、GH200 Grace Hopper 超級芯片和 Spectrum-X 在 COMPUTEX 2024 獲得認可。
    的頭像 發表于 05-29 09:27 ?499次閱讀
    NVIDIA <b class='flag-5'>AI</b> Enterprise榮獲金獎

    馬斯克宣布,將于10萬枚專用芯片中訓練新一代聊天機器人與超級計算機

    此外,馬斯克計劃將這些芯片整合至一臺超大容量的超級計算機,稱之為“超能工場”。他承諾,這個由NVIDIA H100組成的
    的頭像 發表于 05-27 16:05 ?772次閱讀

    進一步解讀英偉達 Blackwell 架構、NVlink及GB200 超級芯片

    H100 Tensor Core GPU 快 6 。 采用液體冷卻的 GB200 計算托盤可實現高能效和高計算精密度 NVIDIA GB200 Grace Blackwell
    發表于 05-13 17:16

    英特爾的最強AI芯片要來了,聲稱性能完勝英偉達H100

    增加了近1.5。 與競爭對手的正面對標也不落下風。英特爾聲稱Gaudi3已全面超越英偉達去年發布H100芯片:運行
    的頭像 發表于 04-11 23:36 ?525次閱讀

    英偉達H200怎么樣

    英偉達H200非常強大。作為新一代AI芯片H200在性能上有了顯著的提升,能夠處理復雜的
    的頭像 發表于 03-07 16:15 ?2308次閱讀

    英偉達H200顯卡價格

    英偉達H200顯卡的具體價格尚未公布。根據上一代H100顯卡的價格范圍,預計H200的單片價格將超過40000美元。由于新芯片通常定價較高,因此可以推斷
    的頭像 發表于 03-07 16:09 ?6067次閱讀

    英偉達H200H100的比較

    英偉達H200H100款不同的AI芯片,它們各自具有獨特的特點和優勢。以下是關于這
    的頭像 發表于 03-07 15:53 ?5192次閱讀

    解讀六大科技巨頭自研AI芯片進展,誰將領跑未來?

    在當前的AI發展浪潮中,NVIDIA無疑是AI的領跑者。其A100/H100系列
    發表于 02-22 10:35 ?595次閱讀
    解讀六大科技巨頭自研<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>進展,誰將領跑未來?
    澳门百家乐官网才能| 百家乐最佳投注办法| 东方太阳城租房| 星港城百家乐官网娱乐城| 百家乐赔率计算| 百家乐官网游戏群号| 百家乐官网技巧经| 大发888怎么了| 小孟百家乐官网的玩法技巧和规则| 大发888娱乐城平台| 百家乐官网揽法大全| 云博娱乐城,| 百家乐官网皇室百家乐官网的玩法技巧和规则 | 百家乐官网马宝| 威尼斯人娱乐城百家乐| 百家乐官网路单显示程序| 大发888娱乐城大奖| 总统百家乐官网的玩法技巧和规则 | 上市百家乐官网.评论| 大发888赢钱技巧| 凱旋門百家乐官网娱乐城| 网上现金赌场| 百家乐赌场软件| 七胜百家乐官网娱乐城总统网上娱乐城大都会娱乐城赌场 | 娱乐城在线| 金榜百家乐现金网| 百乐坊百家乐官网游戏| 新利百家乐的玩法技巧和规则| 百家乐官网论坛代理合作| 大发888游戏破解秘籍| 正规百家乐官网平注法口诀| 林周县| 百家乐官网款| 在线百家乐官网代理| 财神百家乐的玩法技巧和规则| 百家乐官网正式版| 大发888官方网站指定开| 真人百家乐官网蓝盾娱乐网| 总统娱乐城能赢钱吗| 百家乐赌博赌博平台| 索罗门百家乐的玩法技巧和规则|