在今年的巴塞羅那世界移動通信大會(MWC)上,高通技術公司再次引領AI技術的創新潮流,發布了其全新的高通AI Hub。這一創新平臺為開發者提供了一個全面的AI模型庫,使得他們能夠輕松快速地將預優化AI模型集成進應用程序中,從而為用戶帶來更快、更可靠且更具隱私性的體驗。
高通AI Hub的核心是其預優化AI模型庫,這一庫支持在搭載驍龍和高通平臺的終端上進行無縫部署。模型庫中包含超過75個主流的AI和生成式AI模型,如Whisper、ControlNet、Stable Diffusion和Baichuan-7B等。這些模型可在不同的執行環境中打包,實現卓越的終端側AI性能、降低內存占用并提升能效。
值得一提的是,所有模型都經過優化,旨在充分利用高通AI引擎內的所有核心(NPU、CPU和GPU)的硬件加速能力。這意味著推理速度可以得到4倍的提升,從而為用戶提供更加流暢、高效的AI體驗。
除了硬件加速外,AI模型庫還能夠自動處理從源框架到主流執行環境的模型轉換,并與高通AI引擎Direct SDK協同工作,實現硬件感知優化。這意味著開發者可以更加便捷地將這些模型集成進他們的應用程序中,縮短產品上市時間,并發揮終端側AI部署的諸多優勢,如即時性、可靠性、隱私保護、個性化和成本優勢。
為了方便開發者使用這些模型,高通AI Hub現已在高通AI Hub、GitHub和Hugging Face等平臺上提供。此外,高通AI Hub還將持續增加新模型,并支持更多平臺和操作系統。開發者只需注冊登錄,即可在搭載高通技術公司平臺的云托管終端上自行運行模型,并通過高通AI Hub提前獲取新特性和AI模型。
隨著AI技術的不斷發展和普及,高通AI Hub的推出無疑將為開發者提供更加便捷、高效的工具,推動終端側AI技術的廣泛應用和發展。我們期待這一平臺能夠在未來的AI領域中發揮更大的作用,為用戶帶來更加出色的AI體驗。
-
高通
+關注
關注
77文章
7504瀏覽量
191167 -
移動通信
+關注
關注
10文章
2617瀏覽量
70073 -
AI
+關注
關注
87文章
31513瀏覽量
270328
發布評論請先 登錄
相關推薦
評論