還記得去年在色情行業掀起一陣風暴的 Deepfakes 嗎？通過 AI 神經網絡和演員的照片，反復進行機器學習之后，就能讓 AI 自動識別和替換掉影片里某人的臉部數據。

后來 B 站也掀起了一陣「萬物皆可徐錦江」的熱潮，比如雷神和海王，乃至很多的經典電影的片段都出現了徐錦江的臉，甚至其中還包括《新白娘子傳奇》里的白素貞。

這一次花式操作確實秀，也讓更多人了解了什么是 Deepfakes 和 AI 換臉。

現在，「Deepfakes」已經泛指那些被人工智能改變過的媒體內容，只要是某人沒有做過的事被 AI 做出來都可以認為是 Deepfakes，而且不止是視頻，音頻同樣也可以通過 AI 來偽造。

但現在 Deepfakes 正在從過去的色情范圍進一步擴大到了犯罪的世界，現在有一些犯罪分子使用 Deepfakes 來冒充公司的高管進行詐騙，目前他們使用的是 Deepfakes 的音頻而非視頻來進行詐騙。

相關的技術其實早已經有所應用，比如網絡上那些偽造的 Trump 講話，這一段喬丹·皮爾「配音」的奧巴馬演講也堪稱經典案例

而這種詐騙，要比「小 X，明天來我辦公室一趟」可要厲害不知多少倍，用被忽悠瘸的范偉老師的話說就是「哎呀，防不勝防！」

作為一家網絡安全公司，賽門鐵克表示已經發生了至少三起對私營企業成功的音頻詐騙，都是將自己偽裝成 CEO 的聲音要求財務進行緊急匯款。

當然，犯罪分子也為此做了很多訓練，用人工智能偽裝聲音不必多說，他們還通過電話、Youtube 視頻和 TED 演講視頻來模仿該公司 CEO 說話習慣，在進行數小時的演練和計劃之后才會實施。

這三起詐騙讓每家公司都損失了數百萬美元，但公司的名稱目前并沒有被披露出來，BBC 最先報道了這些攻擊事件。

顯然，Deepfakes 對企業的威脅是切實存在的，尤其是在已經有三起成功案例之后。但目前這樣的運用方法仍然只是「小兒科」的簡單手法，真正令人膽寒的是這樣技術能用于更大的破壞。比如你想要拉低蘋果公司的股價怎么辦，只要一份刻意偽造的音頻剪輯，并放出一些類似庫克私人談話等不利信息，蘋果的股價恐怕很容易就能蒸發數十億美元。

然而目前并沒有非常好的方式去監測這些造假音頻，因為技術的越發成熟，這些Deepfakes 的音視頻制作正在變得越來越容易，同時破綻也越來越少。但絕大多數企業都對此沒有準備。

更糟糕的是，從行業上說，對于 AI 造假的媒體來說，目前來看尚沒有高效的檢測和抵御解決方案。

技術方面，賽門鐵克表示他們正在開發檢測音頻造假的技術。購買第三方公司服務的話也同樣不便宜，New Knowledge 是一家幫助公司抵御虛假信息的公司，但它們的服務費用可能從 5 萬到數百萬美元不等。

而最讓人頭疼的是，當這些 AI 造假的音視頻被揭穿時，通常損失已經造成了。