人工智能算法，特別是深度神經(jīng)網(wǎng)絡(luò)的可解釋性不佳，高維線性，大量依賴數(shù)據(jù)等固有特性，意味著人工智能系統(tǒng)存在一些不可避免的安全缺陷，容易受到特定攻擊。也正因此，在一些真正重要的關(guān)鍵領(lǐng)域，比如自動(dòng)駕駛、金融業(yè)務(wù)決策和醫(yī)療診斷等實(shí)際應(yīng)用場景中，人工智能的進(jìn)一步發(fā)展和應(yīng)用還面臨著很大的問題。

算法存在技術(shù)脆弱性

當(dāng)前人工智能尚處于海量數(shù)據(jù)“喂養(yǎng)”階段，以深度神經(jīng)網(wǎng)絡(luò)為代表的人工智能算法仍存在弱魯棒性（脆弱、不安全、不穩(wěn)定）、不可解釋性（算法的黑盒特性，應(yīng)用過程中對人工智能系統(tǒng)無法全面了解）、偏見歧視（國外的人工智能系統(tǒng)中存在的種族歧視、富人和窮人的偏見）等尚未克服的技術(shù)極限。

新型安全攻擊不斷涌現(xiàn)

近年來，對抗樣本攻擊（攻擊者在人工智能模型的輸入上增加人類難以通過感官辨識到的細(xì)微“干擾”，使模型接受并做出錯(cuò)誤的分類決定）、算法后門攻擊（向模型的訓(xùn)練數(shù)據(jù)安插后門，使其對特定信號敏感，并誘導(dǎo)其產(chǎn)生攻擊者指定的錯(cuò)誤行為）、模型竊取攻擊、模型逆向攻擊等破壞人工智能算法和數(shù)據(jù)機(jī)密性、完整性、可用性的新型安全攻擊快速涌現(xiàn)。

算法設(shè)計(jì)實(shí)施與預(yù)期出現(xiàn)偏差

人工智能算法的設(shè)計(jì)和實(shí)施有可能無法實(shí)現(xiàn)設(shè)計(jì)者的預(yù)設(shè)目標(biāo)，導(dǎo)致產(chǎn)生偏離預(yù)期的不可控行為。例如設(shè)計(jì)者為算法定義了錯(cuò)誤的目標(biāo)函數(shù)，導(dǎo)致算法在執(zhí)行任務(wù)時(shí)對周圍環(huán)境造成不良影響。

人工智能安全社會風(fēng)險(xiǎn)

隨著各類人工智能應(yīng)用場景開始持續(xù)落地，一旦出現(xiàn)數(shù)據(jù)、算法的泄露、濫用、誤用等問題，將帶來一系列未知的風(fēng)險(xiǎn)和隱患。

個(gè)人信息安全

人工智能技術(shù)加強(qiáng)了數(shù)據(jù)挖掘分析能力，收集個(gè)人信息已呈現(xiàn)出精準(zhǔn)化、全面化、簡便化、隱秘化趨勢。隨著人臉、指紋、聲紋、虹膜、心跳、基因等具有很強(qiáng)個(gè)人屬性信息被收集、分析和利用，加上應(yīng)用場景增加，一旦泄露或者濫用將產(chǎn)生嚴(yán)重后果。例如就有不法分子在電商平臺販賣人臉信息，以5角錢一份的低價(jià)打包出售后，被盜的人臉信息被用于虛假注冊、電信網(wǎng)絡(luò)詐騙等違法犯罪活動(dòng)。

社會安全

從圍繞AI芯片、前沿算法、無人駕駛、智能機(jī)器人、AI+5G等產(chǎn)業(yè)發(fā)展，到涵蓋AI+教育、AI+金融、AI+醫(yī)療、AI+工業(yè)、智能駕駛等場景應(yīng)用，AI人工智能滲透到各領(lǐng)域，然而一旦出現(xiàn)“數(shù)據(jù)投毒”、算法有誤以及對人工智能的濫用，例如深度偽造技術(shù)等，就可能會對倫理道德、社會經(jīng)濟(jì)等方面帶來威脅。

例如在自動(dòng)駕駛上，通過對一個(gè)實(shí)體停車標(biāo)志經(jīng)過精心設(shè)計(jì)的噪聲擾動(dòng)后，使目標(biāo)檢測系統(tǒng)無法準(zhǔn)確識別標(biāo)志，從而可能造成交通事故。

再者深度偽造技術(shù)，如不法分子出于擾亂社會治安或敲詐勒索等目的，利用該技術(shù)制作高逼真度的殺人、綁架、爆炸等嚴(yán)重暴力犯罪的音頻視頻，將對社會穩(wěn)定構(gòu)成嚴(yán)重威脅。

國家安全

人工智能技術(shù)若被濫用，可能會為國內(nèi)外分裂、恐怖勢力提供新的工具，極有可能會用于抹黑國家領(lǐng)導(dǎo)人，煽動(dòng)恐怖和暴力情緒，破壞國家政治穩(wěn)定。

人工智能安全立法措施

規(guī)范立法，制定標(biāo)準(zhǔn)

人工智能的迅速發(fā)展也給當(dāng)前的法律規(guī)則、社會秩序、道德標(biāo)準(zhǔn)和公共管理系統(tǒng)帶來前所未有的挑戰(zhàn)。因此需從國家層面進(jìn)行立法、政策方面的完善，提前布局、審慎應(yīng)對。

目前，我國出臺的《新一代人工智能發(fā)展規(guī)劃》、《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（20182020年）》、《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》、《民法典》、《數(shù)據(jù)安全法》（草案）、《個(gè)人信息保護(hù)法》（草案）等等都對人工智能產(chǎn)業(yè)的規(guī)范發(fā)展提出了要求，但還應(yīng)聚焦人臉識別、語音合成、自動(dòng)駕駛、服務(wù)機(jī)器人等領(lǐng)域，更細(xì)化、更有針對人工智能相關(guān)應(yīng)用場景有計(jì)劃、有步驟制定相關(guān)法律。

同時(shí)鼓勵(lì)行業(yè)協(xié)會和中介組織制定人工智能產(chǎn)業(yè)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)和行業(yè)規(guī)范，引導(dǎo)相關(guān)企業(yè)制定倫理規(guī)則，強(qiáng)化企業(yè)保護(hù)個(gè)人信息、隱私的責(zé)任。

技術(shù)應(yīng)對，安全防御

維護(hù)AI安全，技術(shù)手段的重要性不言自明。首先應(yīng)重視加強(qiáng)深度神經(jīng)網(wǎng)絡(luò)本身的健壯性，即充分利用知識蒸餾、對抗性訓(xùn)練等技術(shù)手段強(qiáng)化其抵御對抗樣本的能力。其次應(yīng)結(jié)合多種判別手段，推動(dòng)發(fā)展對抗樣本智能篩查、攔截技術(shù)，使攻擊過程“無所遁形”。最后，可以使用攻擊削弱策略，對所有待測樣本進(jìn)行防御性擾動(dòng)，降低隱藏在其中的破壞能力。

倫理約束，AI向善

人工智能最大的弱點(diǎn)是缺乏直接的感受能力，在價(jià)值判斷上存在弱點(diǎn)。國家有關(guān)部門、行業(yè)組織應(yīng)當(dāng)制定人工智能倫理原則和框架并落實(shí)到人工智能研發(fā)應(yīng)用中，強(qiáng)化科研人員科技倫理與法律培訓(xùn)，引導(dǎo)全社會正確認(rèn)識和應(yīng)用人工智能，確保人工智能健康發(fā)展的方向以造福于人類為宗旨。

同時(shí)加強(qiáng)國際交流與對話，積極參與制定全球人工智能倫理規(guī)則。

美亞柏科人工智能安全探索

為保障人工智能產(chǎn)業(yè)的健康有序發(fā)展，國家和省市地方政府有關(guān)部門高度重視人工智能安全問題。目前，相關(guān)部委已聯(lián)合國內(nèi)在人工智能產(chǎn)業(yè)細(xì)分領(lǐng)域的“領(lǐng)頭羊”企業(yè)共同打造成立人工智能實(shí)驗(yàn)室聯(lián)合體，美亞柏科參與其中。

2020年12月23日，2020中國人工智能高峰論壇暨中國人工智能大賽成果發(fā)布會在廈門圓滿落下帷幕。美亞柏科作為主要協(xié)辦單位之一，為本次大賽提供全程全方位的支持。在廈門市政府的指導(dǎo)和推動(dòng)下，醫(yī)渡云、安恒信息、廈門瑞為、優(yōu)刻得、柏科匯銀等人工智能頭部企業(yè)聯(lián)合成立廈門人工智能安全研究院，用于全方位開展人工智能安全領(lǐng)域研究，這也是自2019年中國人工智能大賽永久落戶廈門以來廈門市在人工智能領(lǐng)域的重要舉措。

作為網(wǎng)絡(luò)空間安全及社會治理領(lǐng)域國家隊(duì)，美亞柏科自2017年就開始人工智能技術(shù)的研究，在圖片識別、文本語義分析、智能機(jī)器人研發(fā)等技術(shù)領(lǐng)域均取得突出成果，并應(yīng)用到電子數(shù)據(jù)取證、會晤安保、金融風(fēng)險(xiǎn)防控等多個(gè)領(lǐng)域。在2020年初，更是充分發(fā)揮人工智能技術(shù)優(yōu)勢，助力執(zhí)法部門精準(zhǔn)防控，開展復(fù)工復(fù)產(chǎn)工作。

在人工智能安全領(lǐng)域，美亞柏科特別針對深度偽造技術(shù)成立研究團(tuán)隊(duì)。深度偽造技術(shù)利用深度神經(jīng)網(wǎng)絡(luò)極強(qiáng)的學(xué)習(xí)能力，使用圖像識別、語音合成、文本生成等技術(shù)，偽造篡改甚至生成虛假的人臉視頻圖像，偽造模擬聲音，制作虛假新聞等，仿真程度逼真，真假難辨，為國家間的政治抹黑、經(jīng)濟(jì)犯罪甚至恐怖主義行動(dòng)等提供了新工具。美亞柏科反深偽團(tuán)隊(duì)通過對深偽技術(shù)的分析研究，運(yùn)用多項(xiàng)深偽檢驗(yàn)鑒定算法，研發(fā)推出多媒體深偽檢測平臺和視頻圖像檢驗(yàn)鑒定裝備，目前已取得初步成果。

人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，已經(jīng)成為賦能實(shí)體經(jīng)濟(jì)、助推高質(zhì)量發(fā)展的新動(dòng)能，“人工智能＋”成為經(jīng)濟(jì)增長的新引擎。然而，在對社會經(jīng)濟(jì)發(fā)展、人們的生產(chǎn)生活產(chǎn)生重大影響的同時(shí)，其帶來的國家安全、社會倫理、網(wǎng)絡(luò)安全、人身安全和隱私保護(hù)等多個(gè)層面的風(fēng)險(xiǎn)和挑戰(zhàn)卻不容忽視。

未來，美亞柏科將持續(xù)鉆研，以互聯(lián)網(wǎng)、大數(shù)據(jù)為依托，進(jìn)行人工智能技術(shù)的研發(fā)與拓展，不斷完善與升級出更安全、可信、可靠的人工智能技術(shù)，扎牢人工智能安全的籬笆，迎接新挑戰(zhàn)，為人工智能技術(shù)的發(fā)展作貢獻(xiàn)，用技術(shù)造福社會。
責(zé)任編輯：YYX