異常檢測是識別某種事物偏離正常和預期情形的過程。如果能夠及早檢測出異常狀況，則可以采取相關糾正措施，避免引發嚴重后果。兒時的我們玩過誰能在一幅精心編排的圖片中識別出怪異情況的游戲，這是玩耍時的異常檢測。工程師、科學家和技術人員歷來依靠異常檢測來防止工業事故，制止金融欺詐，及早干預以解決健康風險等。

傳統上，異常檢測系統依賴于統計技術、預定義規則和/或人類專業知識。但這些方法在可擴展性、適應性和準確性方面存在局限性。

在現實生活中，人工智能異常檢測的高價值用例在過去幾年大幅增長，預計將延續增長勢頭。人工智能(AI)的發展正在徹底改變異常檢測領域。它提高了檢測準確性，加快了檢測速度，降低了誤報率，并實現了可擴展性和成本效益。本文將介紹如何實施此類解決方案，此外還將提到一些使用案例以供說明。

如今，我們遇到的許多異常現象可能不僅僅是偶然現象，而是惡意的人為現象。例如，社交媒體充斥著虛假和深度偽造的圖像和視頻。先進的圖形和視頻制作及處理技術使得這種狀況的出現成為可能。

舉一個簡單的例子，我們來玩一個游戲，在從社交媒體上找到的一張現代圖片上發現怪異情況。仔細研究下面的圖片，記下異常情況。

▲在印度阿迪亞爾漫長而炎熱的夏天，

婦女前往幾英里遠的地方取水

傳統的人工智能異常檢測技術是否對這張圖片有效？也許有效。人們對標題中提到的地方的了解程度，加上相關的常識、物理學原理知識、可行性角度等，可以幫助識別圖片中的異常情況。據此，人們可能會宣布這張圖片是真實的或偽造的。但這不足以讓其他人相信您的結論。您需要能夠解釋如何得出這一結論。這涉及到可解釋性，這是至關重要的。

什么是“可解釋的人工智能”(XAI)？

XAI是人工智能的子集，側重于機器學習模型的透明性和可解釋性。使用XAI，人工智能模型的輸出或決策可由人類解釋和理解，以便更容易相信和利用結果。使用 XAI進行異常檢測可以幫助識別和理解異常狀況的原因，從而更好地制定對策并改善系統性能。XAI在異常檢測方面的主要優勢在于它能夠處理復雜的數據集，提高準確性，并降低誤報率和漏報率。

XAI有哪些不同的使用案例？

人工智能異常檢測系統可能會做出對個人和整個社會產生重大影響的決策。許多使用案例都是關于“邊緣人工智能”應用的，這些應用涉及到安保、安全、生產線壽命和客戶友好服務。此外，在未來的司法系統和醫療預后服務用例中，沒有推理的底線決策將會乏善可陳。XAI為異常檢測系統提供了一種闡述決策過程以及通過學習和持續改進造福行業和社會的方法。

使用案例：門禁系統（人臉識別）

門禁系統廣泛通過人臉識別進行身份驗證，它依賴于計算機視覺和人工智能技術。雖然AI系統在臉部檢測方面可能表現得非常出色，但許多意外因素可能會導致無法識別臉部。

根據這種應用的目的，可以經過調整以防止誤報，并在發生惡意侵入嘗試時發出警報。但是對于知道自己的臉部應該被識別的用戶來說，至少可以說這很煩人。人臉識別系統可能在識別嘴部附近或眼睛周圍時遇到困難。

XAI可以進行相應的互動，以便用戶摘下面罩或眼鏡之后重試。人工智能系統以學習為導向，依靠反饋不斷改進其算法。系統可以自我改進，即使臉部被部分遮擋，下次仍可能識別此用戶。另一方面，XAI使系統始終能夠區分識別失敗和試圖侵入這兩種狀況，并相應地發出警報。

使用案例：自主駕駛TSR（交通標志識別）

自主駕駛系統可使用計算機視覺和人工智能技術識別限速標志并采取相應的措施。如果有惡意者或自然老化因素改變了某個交通標志，比方說從60英里/小時變為600英里/小時或80英里/小時，該怎么辦？這種使用案例可能比面部識別案例更具挑戰性。

被篡改的600英里/小時標志可以很輕松地被忽略掉，因為當前道路車輛的時速根本不能接近600英里/小時。但是，許多車輛可以輕松達到80英里/小時，并且這是許多地方許多道路上的合法限速標志。但若該標志為偽造的標志，則高速行駛可能不僅是非法的，而且在特殊路況下還是相當危險的。

XAI可以確定交通標志的有效性，提供結論概率水平并解釋如何得出該結論。然后，車輛自主系統可以根據該結論采取安全措施。

使用案例：監測工廠機器的運行狀況

對于企業而言，工廠機器的意外和突然停機可能會造成非常昂貴的經濟成本。為了避免發生這種情況，機器中的傳感器會持續監測機器發出的聲音，并運行人工智能網絡模型來分析和檢測異常狀況。如果檢測到無序的聲音或不規則的頻率（這可能會導致機械問題），則會提醒技術人員在機器突發故障前采取預防措施。

未來使用案例：促進法律聽證和量刑

有人談論過使用人工智能分析法律案件和做出判決。通過分析法律文書和歷史數據，人工智能可以識別可能與案件相關的異常數據情況。對人類法官而言，最重要的方面是在審理案件后撰寫的意見書所依據的理由。

通過使用XAI，識別系統可以解釋所發現的異常情況，從而更好地幫助法官做出決策并提高識別系統的整體性能。例如，使用XAI可以幫助查明案件中沒有依據特定法律先例的原因。

實施XAI的技術要求是什么？

對于大多數基于XAI的異常檢測用例而言，出色的計算機視覺、聲音分析、傳感器融合功能和多個人工智能網絡模型必不可少。

例如，在人臉識別用例中，主要的人工智能網絡模型負責檢測和驗證經過訓練可識別的特定個人，與此模型并行的是一個相對精簡的網絡，它只在檢測并驗證為“陽性”的最小感興趣區域(ROI)運行。輔助網絡的作用是運行異常性和真實性檢查，防止被深度偽造等方式侵入系統。此過程開銷必須進行優化，以最大限度降低功耗，因此將對篩選的幀和感興趣區域運行混合精度網絡，并且僅在主網絡的選擇性輸入/輸出層面運行混合精度網絡。后一個流程與傳統使用案例略有不同，因此在不同的人工智能處理器模塊之間需要靈活的內存架構和自適應數據流。如果檢測到身份驗證為“陰性”或發現真實性問題，則更大的XAI模型會出面確定導致失敗的問題，并將該信息傳遞到應用層以待進一步處理。

如何實施XAI？

大多數人工智能異常檢測用例通常都是關于“邊緣人工智能”應用的。這需要快速檢測異常狀況，確定異常原因并相應地報知，以便實時采取適當的糾正措施。能夠并行運行多個人工智能網絡，并在處理器本身也執行計算機視覺分析的人工智能處理器是關鍵所在。根據使用案例和應用情形的不同，可能需要運行部分人工智能網絡，然后對主題圖像或感測元素進行統計分析。隨后可能會對圖像進行處理，然后運行第一個網絡的其余部分或運行另一個人工智能網絡來解釋異常原因。

因此，XAI的實施需要功能強大的處理器，該處理器應具備以下功能：

高度靈活的人工智能處理器，可實施各種XAI/ML處理流程

內存架構

多引擎結構

高性能計算功能

支持多種數據類型，包括低精度算術運算

高度并行的處理能力

高級量化功能

支持最新的神經網絡架構

高利用率，以優化功耗

內置計算機視覺/DSP處理功能

支持數據和權重的混合精度推理

用于實施XAI的CEVA處理器

CEVA是人工智能應用開發處理器和平臺的領先提供商，其NeuPro-M人工智能處理器專為運行XAI網絡而設計。NeuPro-M處理器內核可配置多達8個引擎，每個引擎都有自己的視覺DSP處理器。因此，應用層無需觸及外部DSP、GPU或CPU即可進行圖像處理。

根據應用層需求，可以選配適當數量的引擎，以允許運行許多不同的人工智能網絡。這些引擎支持各種神經網絡架構，并支持量化功能。比如，應用層可以在16位中實施某些網絡層，有些在8位中。某些情況下，甚至可以實施2位網絡。這種靈活性不僅可以節省能源和面積，還能提供快速的性能，所有這些都是邊緣人工智能用例的關鍵因素。在數據和權重的精度不同的情況下，NeuPro-M還支持混合精度。

本文作者：Gil Abraham, Business Development Director and Product Marketing, CEVA

關于CEVA

CEVA是排名前列的無線連接和智能傳感技術以及集成IP解決方案授權商，旨在打造更智能、更安全、互聯的世界。我們為傳感器融合、圖像增強、計算機視覺、語音輸入和人工智能應用提供數字信號處理器、人工智能處理器、無線平臺、加密內核和配套軟件。這些技術與我們的Intrinsix IP集成服務一起提供給客戶，幫助他們解決復雜和時間關鍵的集成電路設計項目。許多世界排名前列的半導體廠商、系統公司和OEM利用我們的技術和芯片設計技能，為移動、消費、汽車、機器人、工業、航天國防和物聯網等各種終端市場開發高能效、智能、安全的互聯設備。

我們基于DSP的解決方案包括移動、物聯網和基礎設施中的5G基帶處理平臺；攝像頭設備的高級影像技術和計算機視覺；適用于多個物聯網市場的音頻/語音/話音應用和超低功耗的始終開啟/感應應用。對于傳感器融合，我們的Hillcrest Labs傳感器處理技術為耳機、可穿戴設備、AR/VR、PC機、機器人、遙控器、物聯網等市場提供廣泛的傳感器融合軟件和慣性測量單元 (“IMU”) 解決方案。在無線物聯網方面，我們的藍牙(低功耗和雙模)、Wi-Fi 4/5/6/6E (802.11n/ac/ax)、超寬帶(UWB)、NB-IoT和GNSS 平臺是業內授權較為廣泛的連接平臺。