假設(shè)您完成了對(duì)患者的X射線檢查，正在等待人工智能系統(tǒng)診斷病情。幾分鐘后，人工智能返回了診斷結(jié)果，顯示可信度為98%，但是診斷結(jié)果明顯錯(cuò)誤。您該怎么做？嘗試重新拍攝X光片，還是呼叫主任醫(yī)師？

人工智能通常被視為“黑盒子”，即人類不清楚具體算法，但這也是它特別有效的部分原因，人工智能建立算法的邏輯方式并不依賴人類的思路。但當(dāng)人工智能無(wú)法正常工作時(shí)，我們就需要獲得一定程度的可解釋性，了解如何合理修復(fù)模型。

恩智浦一直致力于借助現(xiàn)有技術(shù)解決這一問(wèn)題，并對(duì)技術(shù)進(jìn)行優(yōu)化，以量化對(duì)人工智能系統(tǒng)最重要的兩種數(shù)學(xué)不確定性。

第一種是偶然不確定性，這是指自然發(fā)生的隨機(jī)性或噪聲，我們無(wú)法（或不知道如何）減少模型內(nèi)部的這些不確定性。這代表了由于輸入數(shù)據(jù)質(zhì)量不佳導(dǎo)致的不確定性，原因可能是X光片模糊，就像自動(dòng)駕駛汽車(chē)在起霧的夜間行駛，看不清交通標(biāo)志，或圖像中存在其他噪音源。

第二種是認(rèn)知不確定性，在人工智能領(lǐng)域，這是指由于模型造成的不確定性。原因可能是數(shù)據(jù)集有限，模型訓(xùn)練得不夠好，或?yàn)榱私档陀?xùn)練成本而刻意簡(jiǎn)化了模型。

恩智浦嵌入式處理器技術(shù)和業(yè)務(wù)戰(zhàn)略主管Gowrishankar Chindalore表示：“我們認(rèn)為認(rèn)知不確定性是可以降低的；您可以通過(guò)提高計(jì)算復(fù)雜度，進(jìn)行更多訓(xùn)練，增加更多的層數(shù)，從而降低模型的不確定性，當(dāng)然要注意避免過(guò)度擬合。對(duì)于輸入不確定性，神經(jīng)網(wǎng)絡(luò)只能報(bào)告輸入有問(wèn)題，因此我們應(yīng)對(duì)輸出持謹(jǐn)慎態(tài)度。您希望神經(jīng)網(wǎng)絡(luò)能夠識(shí)別這種局限性，最后由人類決定是否需要質(zhì)量更好的輸入，或完全拒絕輸出。這就是恩智浦的可解釋人工智能（xAI）的概念?！?/p>

在研究中，恩智浦使用了各種成熟技術(shù)來(lái)量化不確定性，包括TensorFlow概率、Logit概率分布和貝葉斯統(tǒng)計(jì)。我們的思路是，人類或算法根據(jù)量化不確定性決定下一步怎么做。例如，在上面的X射線方案中，如果返回的偶然不確定性超過(guò)一定水平，技術(shù)人員將重新拍攝圖像。如果返回的認(rèn)知不確定性太高，就需要由人類專家判斷X光片，并考慮對(duì)模型進(jìn)行更多訓(xùn)練。

恩智浦的技術(shù)總監(jiān)兼人工智能/機(jī)器學(xué)習(xí)工程負(fù)責(zé)人Natraj Ekambaram表示：“今天任何神經(jīng)網(wǎng)絡(luò)都只會(huì)報(bào)告預(yù)測(cè)結(jié)果，其可信度為50%或70%。我們還希望神經(jīng)網(wǎng)絡(luò)能報(bào)告這兩種不同的不確定性具體是什么。計(jì)算成本非常高，在邊緣進(jìn)行推理非常昂貴，存在功率和計(jì)算方面的限制。因此我們也探索各種技術(shù)，以優(yōu)化的方式加速邊緣不確定性量化技術(shù)?！?/p>

恩智浦認(rèn)為可解釋人工智能技術(shù)的首個(gè)應(yīng)用是根據(jù)醫(yī)學(xué)影像數(shù)據(jù)（X射線或CT掃描）進(jìn)行新冠病毒篩查。Chindalore介紹了這項(xiàng)技術(shù)支持的新流程：

“在系統(tǒng)中輸入X光片，經(jīng)過(guò)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)就會(huì)返回預(yù)測(cè)結(jié)果。我們改變了傳統(tǒng)的垂直、線性、一維的方法，現(xiàn)在使用帶分支的決策樹(shù)。如果返回預(yù)測(cè)結(jié)果之后，［算法］報(bào)告傳感器輸入導(dǎo)致了不確定性，技術(shù)人員可以重新拍攝X光片，因?yàn)樯窠?jīng)網(wǎng)絡(luò)自身無(wú)法解決這一問(wèn)題。但如果不確定性是由于模型的原因，將由專家對(duì)X光片進(jìn)行判斷，判斷人工智能結(jié)果正確與否。這樣就能取得可信的篩查結(jié)果。借助可解釋性，人們可以采用三種決策中的一種。”

目前的新冠病毒篩查依靠聚合酶鏈?zhǔn)椒磻?yīng)（PCR）檢測(cè)，利用鼻腔拭子對(duì)病毒相關(guān)遺傳信息進(jìn)行檢測(cè)。由于檢測(cè)試劑盒供應(yīng)有限，并且需要幾個(gè)小時(shí)才能得到結(jié)果，而X射線和CT掃描技術(shù)已經(jīng)在醫(yī)院廣泛應(yīng)用，可作為新冠病毒檢測(cè)的快捷替代技術(shù)。恩智浦建議在人工智能技術(shù)中加入可解釋性，以提高根據(jù)胸部成像檢測(cè)細(xì)菌或病毒性肺炎的可信度，必要時(shí)可用于增強(qiáng)PCR檢測(cè)。

Chindalore表示：“我們聯(lián)絡(luò)了許多公司、高校和醫(yī)院，他們對(duì)此感到非常興奮，因?yàn)橥ㄟ^(guò)神經(jīng)網(wǎng)絡(luò)進(jìn)行疾病檢測(cè)已非新鮮事。事實(shí)上，世界各地的許多醫(yī)院已經(jīng)開(kāi)始使用神經(jīng)網(wǎng)絡(luò)技術(shù)。讓他們感到興奮的原因是可解釋性因素能帶來(lái)某種程度的可信度，神經(jīng)網(wǎng)絡(luò)不再盲目地提供輸出，可以進(jìn)行某種程度的反省。”

恩智浦計(jì)劃開(kāi)放根據(jù)醫(yī)學(xué)成像檢測(cè)新冠病毒模型的源代碼，以幫助對(duì)抗病毒，并積極尋求與感興趣的健康保健行業(yè)機(jī)構(gòu)開(kāi)展合作，特別是能夠獲得匿名訓(xùn)練數(shù)據(jù)集的機(jī)構(gòu)，以進(jìn)一步推動(dòng)檢測(cè)新冠病毒的研究工作。

雖然將這項(xiàng)技術(shù)投入實(shí)際應(yīng)用為時(shí)尚早，但Chindalore和Ekambaram表示，這項(xiàng)技術(shù)還能用于自動(dòng)駕駛汽車(chē)，識(shí)別需要駕駛員參與的情況，也可用于工業(yè)機(jī)器人，因?yàn)?a href="http://www.qldv.cn/v/" target="_blank">工業(yè)機(jī)器人的訓(xùn)練數(shù)據(jù)集往往非常有限。這項(xiàng)技術(shù)仍處于開(kāi)發(fā)之中，尚未最終確定具體的商業(yè)模式。
? ? ? ?責(zé)任編輯：tzh