那曲檬骨新材料有限公司

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

高通在AI領域的布局,驍龍 8 Gen 2支持Transformer大模型!

Carol Li ? 來源:電子發燒友網 ? 作者:李彎彎 ? 2022-12-01 02:00 ? 次閱讀
電子發燒友網報道(文/李彎彎)前不久,在2022驍龍技術峰會上,高通正式發布了全新一代旗艦移動平臺驍龍 8 Gen 2。驍龍 8 Gen 2搭載一顆專門面向AI計算的Hexagon處理器,在手機AI加速計算、計算式攝影、手游光線追蹤、5G雙卡雙通方面均較上一代有較大突破。

高通高級副總裁兼手機業務總經理Christopher Patrick在峰會上表示,“我們把人工智能作為設計第二代驍龍8的關鍵技術。”

驍龍 8 Gen 2的AI技術體現在哪些方面

驍龍8 Gen 2搭載的Hexagon處理器,之前是用來命名驍龍芯片內部DSP的,它在此之前更像是協處理器。如今Hexagon已經進化為專用的AI加速計算芯片,具有專門為其供電的系統,內置Tensor、Scalar加速器、HVX矢量擴展處理器,支持Micro Tile Inferencing等技術。

據介紹,驍龍8 Gen 2這次的Hexagon處理器具備INT4精度AI計算的能力。這讓驍龍8 Gen 2成為世界上第一顆,也是目前已知的唯一一顆支持INT4精度AI計算的移動平臺處理器。

INT4是一種更新、近年來多受關注的AI計算精度模式,和之前經常被提起的浮點計算精度模式相比起來,INT4能夠讓模型占用空間顯著縮小,從而可以在計算/能耗資源更為有限的移動平臺上,保存和運行更多和更大的預訓練神經網絡模型。

根據高通的表述,支持了INT4之后,開發者可以讓驍龍8 Gen 2來跑超大規模的神經網絡,比如Transformer。在此之前沒有已知的移動平臺具有本地運行Transformer類預訓練模型的能力,而驍龍8 Gen 2也成為了第一顆支持Transformer大模型的移動處理器。

通過支持INT4精度計算,Hexagon處理器還可以更加有效地替代GPUCPU,在運行各種AI計算任務時顯著降低能耗。在持續AI推理計算任務上,驍龍8 Gen 2相比8 Gen 1的性能提升最高可達4.35倍,每瓦性能提升程度高達60%。

Christopher Patrick在講解中表示,在Hexagon處理器和Qualcomm Spectra ISP之間,還增加了一個名為“Hexagon直連”的物理連接,以此打造了移動行業首創的“認知ISP”。

“認知ISP”應用在影像處理過程中,通過實時語義分割實現照片和視頻的自動增強,利用AI神經網絡讓攝像頭在情境中感知人臉、面部特征、頭發、衣服和天空等,進行獨立優化,從而讓每個細節獲得定制的專業圖像調優。而之前由于AI性能較弱,用戶在拍攝完照片之后通常需要一段處理時間,手機才會顯示成片。

在AI性能提升的情況下,驍龍8 Gen 2也帶來了實時硬件加速光線追蹤。高通技術人士表示,硬件光追可以做到每秒數百億次光線相交,對光線、反射、照明等處理會更加真實。在網絡連接方面,5G芯片中植入了AI功能,可以改善網絡中的時延、網速、覆蓋不到位等問題。

高通軟硬件布局,應對終端AI落地挑戰

如今AI幾乎滲透進各行各業,終端應用場景豐富,這也造成終端AI在落地上面臨挑戰。包括:不同終端產品對性能和功耗需求不同;各類終端產品所需的深度學習架構和算子也差異巨大,比如智能手機需要使用生成模型、計算領域要用到Transformer模型,汽車ADAS則需要激光雷達模型;各類終端產品對AI特性的需求也不盡相同,比如汽車和XR需要支持更多的并發場景。

為了應對這些挑戰,從硬件層面,高通推出的AI解決方案已經實現從500毫瓦到15瓦的性能水平擴展,甚至可以滿足200瓦的性能水平。

另外為了解決不同場景對AI能力需求的差異,高通在Hexagon處理器中打造了高度可配置的硬件解決方案,使高通能夠將AI解決方案從智能手機擴展到更多業務線。比如面向汽車、云端等高性能場景,高通可以調整Hexagon處理器內的加速器和內存組件,還可以拼接多個Hexagon處理器,通過更多Hexagon處理器協同工作實現性能的拓展提升。

在AI軟件層面,高通也做了深入布局。今年6月,高通宣布推出AI軟件棧產品組合,以提升高通在AI和智能網聯邊緣領域的領先優勢。高通AI軟件棧是面向OEM廠商和開發者的一套完整的AI解決方案,集合了高通各種AI軟件產品并進行了升級,通過豐富的AI軟件權限和兼容性能夠支持各種智能終端。

高通AI軟件棧支持包括TensorFlow、PyTorch和ONNX在內的不同AI框架與主流runtimes,以及開發者庫與服務、系統軟件、工具和編譯器,從而使任何面向單一終端開發的AI特性都可在其他終端上輕松部署。高通AI軟件棧產品組合還支持一系列工具套件,包括高通AI模型增效工具包(AIMET)、AI開發圖形用戶界面(GUI)、用于增強量化與優化的模型分析器以及神經網絡架構搜索(NAS)。

小結

如今AI的發展勢頭迅猛,各家芯片廠商都布局其中,包括英偉達英特爾等。高通在該領域也已經布局許久,近些年更是加大了在該領域的投入。因為本身應用場景多樣的特性,終端AI在落地應用上一直存在挑戰,可以看到高通正在從軟硬件各方面解決這些業界難題。




聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 高通
    +關注

    關注

    77

    文章

    7505

    瀏覽量

    191169
  • AI
    AI
    +關注

    關注

    87

    文章

    31517

    瀏覽量

    270333
  • 大模型
    +關注

    關注

    2

    文章

    2546

    瀏覽量

    3167
收藏 人收藏

    評論

    相關推薦

    詳細了解8至尊版強大的AI能力

    一直以來,通積極推動終端側生成式AI變革,致力于為用戶打造更快、更可靠且更具隱私性的AI體驗,推動AI技術更廣泛的
    的頭像 發表于 12-24 11:47 ?722次閱讀
    詳細了解<b class='flag-5'>驍</b><b class='flag-5'>龍</b><b class='flag-5'>8</b>至尊版強大的<b class='flag-5'>AI</b>能力

    通推出8至尊版

    ,終端側AI能力再次實現突破,為用戶帶來全面煥新的AI影像體驗。 AI全面賦能,影像實力再進階 影像處理能力上,
    的頭像 發表于 12-23 13:38 ?486次閱讀
    <b class='flag-5'>高</b>通推出<b class='flag-5'>驍</b><b class='flag-5'>龍</b><b class='flag-5'>8</b>至尊版

    通發布X Plus 8核平臺,助力Windows 11 AI+ PC體驗

    此前,2024年柏林國際電子消費品展覽會(IFA 2024)前夕,通技術公司宣布推出X Plus 8核平臺,擴展其
    的頭像 發表于 11-08 11:02 ?451次閱讀

    8 Gen4將于今年Q4亮相

    9月28日的最新消息揭示,知名爆料人Yogesh Brar透露,通即將在今年的第四季度推出其旗艦處理器——8
    的頭像 發表于 09-29 14:41 ?831次閱讀

    8 Gen4將開創性地集成自家研發的Oryon CPU

    近日,通公司在其盛大的官方活動中震撼宣布,其旗艦級移動處理器領域的最新力作——8 Gen4
    的頭像 發表于 07-26 15:07 ?624次閱讀

    今日看點丨傳英偉達中國特供芯片H20遭禁售 ;曝榮耀正在籌備8 Gen 3平板 采用雙層OLED

    1. 曝榮耀正在籌備8 Gen 3 平板 采用雙層OLED ? 近日,有消息稱,榮耀方面正在籌備
    發表于 07-23 10:56 ?863次閱讀

    小米K80系列曝光:搭載8 Gen 4,支持120W快充

    據悉,小米已加快紅米K80系列手機的研發進程,預計將推出搭載8Gen3及8Gen4兩種版
    的頭像 發表于 05-27 10:24 ?1229次閱讀

    XR2 Gen 3與XR2+ Gen 3芯片實測數據披露,單眼實現4K畫面

    值得注意的是,盡管CES 2024展示了XR2+ Gen 2芯片設計方案,但至今尚無VR制造商實際應用此類芯片,而此次曝光的
    的頭像 發表于 05-22 10:45 ?2734次閱讀

    支持Meta Llama 3大語言模型旗艦平臺上實現終端側執行

    通和Meta合作優化Meta Llama 3大語言模型支持未來的旗艦平臺上實現終端側執
    的頭像 發表于 04-20 09:13 ?573次閱讀

    Redmi Turbo 3搭載8s Gen 3芯片,配備AI隔空手勢與AI魔法功能

    據悉,Redmi Turbo 3內置AI隔空手勢操作功能,利用8s Gen 3芯片的旗艦
    的頭像 發表于 04-09 15:28 ?1946次閱讀

    通全新中端旗艦芯片8s Gen 3發布

    8s Gen 3 的尺寸僅為 8.40×10.66mm,相較于
    的頭像 發表于 04-08 15:30 ?2493次閱讀

    8s Gen 3與8 Gen 3性能對比

    知名博主@萬扯淡曝光的一組實際測試圖展現出 8s Gen 3的具體情況,其尺寸僅為8.40×10.66mm,相比之下,
    的頭像 發表于 04-07 14:32 ?1.1w次閱讀

    8s Gen3、7+ Gen3或發布,小米Civi 4或首發?

    據悉,本次發布會的亮點之一是全新的旗艦級芯片——8s Gen3。此芯片將作為
    的頭像 發表于 03-13 09:59 ?912次閱讀

    通明年推出的 8 Gen 5 將采用多晶圓廠方案

     據悉,去年的8 Gen 1正是由三星生產,但因發熱及效能問題,通選擇轉向臺積電,并由此建立起獨家代工合作關系。明年的變化主要體現在這
    的頭像 發表于 02-29 14:43 ?1898次閱讀

    8 Gen 4即將發布,采用定制“Phoenix”核心,人工智能不受影響

    據了解,8Gen 4芯片將搭載獨家Phoenix核心和“2+6”的多核架構,以及創新的Slice GPU架構。值得注意的是,
    的頭像 發表于 02-29 09:59 ?764次閱讀
    香港六合彩管家婆| 属蛇做生意坐向| 大发888博彩论坛贴吧| 百家乐官网太阳城 | 足球现金投注网| 百家乐注册开户送彩金| 定陶县| 乐天堂百家乐娱乐场| 大发888娱乐城欢迎您| 百家乐官网英皇娱乐场开户注册| 亲朋棋牌游戏下载| 百家乐是骗人的么| 网上百家乐官网骗人不| 百家乐双峰县| 澳门百家乐官网骗人| 欢乐谷娱乐城开户| 百家乐园千术大全| 现金百家乐官网网上娱乐| 威尼斯人娱乐场 赌场网址| 茂名市| 三国百家乐的玩法技巧和规则| 百家乐官网怎么发牌| 恒和国际| 百家乐娱乐网开户| 百家乐官网庄家怎样赚钱| 大发888娱乐游戏下载 官方网| 百家乐官网黏土筹码| 南通市| 百家乐画面方法| 视频百家乐官网是真是假| 稳赢至尊| 宝马会百家乐的玩法技巧和规则| 蓝盾百家乐官网代理| 海立方百利宫娱乐城| 金都百家乐的玩法技巧和规则| 百家乐官网正负计算| 百家乐官网视频连连看| 大发888-大发娱乐城下载| 百家乐2万| 百家乐官网投注软件有用吗| 澳门赌球网|