什么是邊緣 AI?
邊緣 AI 在硬件上本地處理和實現機器學習算法。這種形式的本地計算減少了數據傳輸的網絡延遲,并解決了一切都發生在設備本身上的安全挑戰。
邊緣 AI 的流程
Edge AI的本地處理并不意味著ML模型的訓練應該在本地進行。通常,訓練在具有更大計算能力的平臺上進行,以處理更大的數據集。最后,這個經過訓練的模型可以部署在處理器或系統的硬件上。該系統具有AI加速功能以及用于實時數據處理應用的已部署模型。
隨著對 GPU、NPU、TPU 和 AI 加速器的需求增加,邊緣 AI 技術經歷了巨大的增長。隨著機器學習和人工智能已成為當前場景中的趨勢技術,這種需求是顯而易見的。因此,由于當前應用程序的要求,Edge AI在硬件中找到了自己的位置。硬件中對本地高級處理和計算能力的需求解釋了Edge AI的重要性。
云 AI 的壽命能否超過邊緣 AI?
云 AI 通過在云上遠程提供計算能力來支持硬件中的處理。由于處理是遠程進行的,因此系統在性能和處理方面更加強大。此外,云計算增加了有關架構和設計的選擇。它減少了系統硬件功耗的復雜性,因為高級處理發生在云上。但是,這些好處是以延遲和安全問題為代價的,如簡介中所述。
云 AI 的流程
當計算需求非常密集并且需要大量數據處理時,云AI的壽命可以超過邊緣AI。如果應用程序可能會在延遲和安全性方面受到損害,那么云AI是比Edge AI更好的選擇。云AI還可以解決功耗的復雜性。但是,它不能被視為選擇云AI而不是邊緣AI的決定性因素。
邊緣 AI 與云 AI
在邊緣AI和云AI之間進行選擇的不確定性主要發生在機器學習或深度學習用例中。由于深度學習算法需要密集處理,因此硬件的性能成為一個重要因素。云AI絕對可以為系統提供更好的性能,但大多數深度學習應用程序都不能犧牲數據傳輸的延遲和網絡中的安全威脅。因此,對于人工智能應用而言,邊緣 AI 的壽命超過了云 AI。
如前所述,功耗因素總是干預Edge AI處理器。這是可以理解的,因為繁重的計算需要更高的電源。但目前的Edge AI處理器具有AI加速器,可提供更高的性能和低功耗。然而,GPU和TPU仍然需要更高的功率,但設計和電路架構的改進將壓倒這個問題。
由于云本身并不是AI應用程序的絕佳選擇,因此邊緣和云AI的混合可以提供更好的性能。可能危及延遲的部分處理可以在云上完成,其余部分可以在硬件本身上完成。
示例:由于訓練的模型需要根據實時數據進行更新,因此可以在云上完成此更新的訓練。但是實時數據是通過Edge AI在硬件上進行處理的,以生成輸出。
因此,加工的劃分帶來了兩種技術的最佳優勢。因此,它可能是AI應用程序的更好選擇。但是,大多數應用程序需要更快的實時更新訓練,因此 Edge AI 的壽命超過了云 AI 技術。因此,邊緣AI正在超越云AI用于深度學習應用。
審核編輯:郭婷
-
AI
+關注
關注
87文章
31536瀏覽量
270353 -
機器學習
+關注
關注
66文章
8441瀏覽量
133091 -
深度學習
+關注
關注
73文章
5516瀏覽量
121556
發布評論請先 登錄
相關推薦
評論