本周在加利福利亞舉辦的嵌入式視覺峰會（EVS）上，我們展示了最新的卷積神經網絡(CNN)物體識別演示。自在去年的EVS大會上發布原始演示以來，我們對其進行了多番擴展，目前，演示已擴展到涵括多個網絡模型，且目前使用的是Imagination的圖像編譯庫——IMG DNN。

何謂CNN？

首先，讓我們快速回顧下CNN：CNN是機器學習的分支，試圖模仿人類視覺皮層的行為來獲得對圖像的理解，這樣，依據應用程序，特定的功能可以被識別。值得注意的是，CNN并不局限于視覺應用程序，不過本文我們將關注視覺應用。常見的視覺應用案例包括：面部識別、汽車牌照字符識別等。CNN由許多層組成，輸入圖像以隔離某些特性，或輸出某些有意義的值時，各層將執行不同的操作。CNN與其他深層神經網絡（DNN）的差別在于，CNN的各層使用了圖像卷積過濾器。以車牌字符識別為例，操作可能包括邊緣檢測，以及使用其他卷積過濾來提取重要特征，且輸出的車牌信息是文本的形式。

在投入使用之前，已利用訓練數據集對CNN進行了訓練。這些數據集非常強大。在上述的案例中，訓練數據可能包含了數萬或數十萬車牌圖像。簡言之，CNN充滿了訓練數據與預期的輸出值。如果CNN的輸出與預期的輸出不匹配，那么CNN便會自行糾正——調整其在網絡中使用的權重和系數。這個過程會一直持續到CNN生成訓練數據可以接受的輸出值為止。這樣一來，才認為CNN是經過訓練的，并讓其在具有新輸入值的領域使用。

演示

我們的演示使用了一個實時的攝像頭，可以識別出攝像機所指向的物體。攝像機幀傳入CNN，屏幕上會輸出一個標簽和置信度百分比，說明網絡對輸入圖像進行響應的確定性。該演示在Linux上運行，基于Acer R13 Chromebook，包括PowerVR Rogue GX6250 GPU。

演示程序實施了三個著名的網絡模型——AlexNet、 GoogLeNet Inception V1和 VGG-16。每個網絡都有不同的特征，這意味著不同的網絡在不同的場景下可能表現更好。這里，關鍵的高級特征是操作的次數和內存的使用，其將直接影響網絡的速度和準確性。演示中使用的所有網絡都是Caffe型的，使用ImageNet數據集進行了訓練。

AlexNet是最近一波新網絡模型的首例，其通過擴大早期LeNet（僅限于字符識別）的范圍，將CNN引入到深度學習中，以學習更復雜的對象。它的特點是：擁有相當高的內存使用率，相對較少的操作，但相比最近的網絡模型準確度欠佳。

相比其他網絡模型，GoogLeNet Inception V1內存占用量明顯更小。而相比AlexNet，它執行的操作更多，但準確性更高。

VGG-16在三個網絡模型中準確度最高，但目前，內存占用量最大，操作次數最多，故而相比其他模型，輸出速度要慢很多。

研究這些計算量或內存占用量相對較大的模型看似奇怪，但考慮每個網絡的實用案例確實很重要。在有的應用程序中，準確度相當關鍵，但對于新的結果并非經常需要。相反，有的情況下，快速推斷是首選，但卻失去了絕對的精準度。網絡如VGG-16因為使用的內存量和所需的操作次數，也常用作基準測試和壓力測試。

以上視頻展示了GoogLeNet和AlexNet模型處理相同圖像的情況。可見二者皆運行良好，但AlexNet在某些情況下的確表現不佳。

IMG DNN

所有這些網絡都是通過使用Imagination的DNN庫實施。DNN庫也是PowerVR GPU驅動程序的一部分。該庫是DNN圖像編譯器和優化器，專為PowerVR量身打造。本文的演示雖是關于CNN，但DNN庫可以用于加速任何類型的深度神經網絡。

IMG DNN位于 OpenCL的頂層，但并不模糊，且其利用了OpenCL結構，因此可以與其他定制OpenCL代碼一起使用。庫執行低層特定硬件的優化，相比定制用戶OpenCL的執行，其可以更好地優化圖像。庫充分考慮了底層PowerVR硬件的性能特征(如內存帶寬、ALU的數量)，隨后將網絡圖視作一個整體，以此在PowerVR GPU中得到最優的結果，實現性能的可移植性。

嵌入式視覺峰會

該演示將于5月1日至3日在加利福利亞舉辦的嵌入式視覺峰會（EVS）上進行展示。歡迎大家參與討論，了解更多有關PowerVR加速CNN的資訊。

Imagination的保羅·布萊斯萊特將在峰會上發布主旨演講：“訓練CNN以獲得精準推理”。想了解更多，請關注基于數量識別CNN的演示，該演示使用的OpenVX具有CNN擴展。