摘要：深偽的神奇之處在于，即便你從未做過(guò)那些事，說(shuō)過(guò)那些話(huà)，去過(guò)那些地方，碰到深偽，一切都不是問(wèn)題，一切都能讓圍觀群眾的眼睛信以為真。

我們過(guò)去說(shuō)，歷史是個(gè)任人打扮的小姑娘，那么現(xiàn)在，現(xiàn)實(shí)也是了。

幾個(gè)月前，以ZAO為首的換臉視頻在中國(guó)突然大火，上傳一張照片，迅速得到自己為主角的小視頻，這是廣大人民群眾跟深偽的第一次親密接觸。

然而，馬上就有質(zhì)疑指出其中對(duì)于個(gè)人隱私的潛在風(fēng)險(xiǎn)，以及深偽跟色情產(chǎn)業(yè)的微妙聯(lián)系，于是，我們跟深偽的“貼面舞”來(lái)去匆匆。

然而，根據(jù)我在美國(guó)華府所見(jiàn)，對(duì)于深偽，美國(guó)政界、學(xué)界的警惕遠(yuǎn)超中國(guó)—近期，隨著美國(guó)總統(tǒng)大選的臨近，越來(lái)越多的媒體和智庫(kù)開(kāi)始擔(dān)心基于選舉的民主政治制度，甚至可能無(wú)法承受這種技術(shù)之重。

01
一段在YouTube上走紅的、前總統(tǒng)奧巴馬爆粗現(xiàn)總統(tǒng)特朗普的視頻，可以看做是深偽的牛刀小試。視頻中，奧巴馬在疑似白宮辦公室的地方，以經(jīng)典的奧巴馬腔，一本正經(jīng)的說(shuō)特朗普是個(gè)徹底的XX。

視頻不是真的，但美國(guó)人民的擔(dān)心確實(shí)是。

據(jù)CNN的報(bào)道，五角大樓為應(yīng)對(duì)深偽，拉上幾家最牛的研究機(jī)構(gòu)和實(shí)驗(yàn)室，成立了“先進(jìn)研發(fā)項(xiàng)目防御局”(DARPA)。甚至有官方聲音稱(chēng)，這個(gè)技術(shù)具有武器級(jí)的重大威脅；Facebook據(jù)說(shuō)也砸下重金，研發(fā)深偽識(shí)別技術(shù)。不管華盛頓還是硅谷，現(xiàn)在媒體也摻和進(jìn)來(lái)，同聲合唱對(duì)這種造假技術(shù)的天大的擔(dān)心。那到底這個(gè)讓美國(guó)寢食不安的深偽是什么？

深偽（Deepfake），簡(jiǎn)單說(shuō)就是一種軟件技術(shù)，由AI執(zhí)行，可以對(duì)被模仿者的面部建模，來(lái)合成天衣無(wú)縫的偽造視頻。深偽的神奇之處在于，即便你從未做過(guò)那些事，說(shuō)過(guò)那些話(huà)，去過(guò)那些地方，碰到深偽，一切都不是問(wèn)題，一切都能讓圍觀群眾的眼睛信以為真。

除了奧巴馬，YouTube上還有一大票名人深偽，小布什、小扎、尼古拉斯凱奇……深偽，像黑暗中蟄伏的猛獸，正蠢蠢欲動(dòng)。

一般來(lái)說(shuō)，要深偽，首先要搜集被模仿者的原始素材，包括視頻、聲音和照片，然后通過(guò)專(zhuān)門(mén)的軟件，模仿你的表情、習(xí)慣、聲音、肢體動(dòng)作，甚至說(shuō)話(huà)節(jié)奏。在無(wú)人提醒的情況下，深偽很難被察覺(jué)，即便有人提醒，在高手制作的視頻面前，你也很難確認(rèn)那是“真的假”。

02

深偽首次引起公眾注意是在2017年，Reddit的某些無(wú)聊用戶(hù)，把一位名人的臉和一部色情片深偽了一下。現(xiàn)在，隨著機(jī)器深度學(xué)習(xí)的推進(jìn)，深偽技術(shù)一日千里—大量原始素材？漫長(zhǎng)的制作時(shí)間？超強(qiáng)算法能力？這些以前的條件現(xiàn)在統(tǒng)統(tǒng)不需要了。

這么說(shuō)吧，通過(guò)開(kāi)源軟件，即便不專(zhuān)業(yè)的人，也可以輕松深偽。當(dāng)然，你極客，非要達(dá)到亂真的效果，那確實(shí)還需要點(diǎn)專(zhuān)業(yè)能力。但對(duì)比兩年前，深偽粉可以拍胸脯問(wèn)，隨著技術(shù)的迅速成熟，這一門(mén)檻被踏平的日子還會(huì)遠(yuǎn)嗎？

03

深偽的力量不僅取決于它們看上去有多真，更重要的是它們傳播的有多快。

人們深信自己的眼睛，這是進(jìn)化賦予我們的本能。千百年來(lái)，我們就是靠著雙眼所見(jiàn)來(lái)判斷真?zhèn)危龀鰶Q定。但這種本能適應(yīng)的是那個(gè)真實(shí)世界，那個(gè)雙眼不會(huì)被輕易欺騙的世界。面對(duì)這個(gè)眼見(jiàn)不為實(shí)的新世界，人類(lèi)的生物進(jìn)化和認(rèn)知能力已經(jīng)被技術(shù)進(jìn)化和AI耍的團(tuán)團(tuán)轉(zhuǎn)。

當(dāng)一個(gè)爆炸性的深偽視頻通過(guò)互聯(lián)網(wǎng)和手機(jī)推送到你面前時(shí)，即便幾分鐘后就被澄清那是個(gè)假消息，但就在這短短的片刻之內(nèi)，它可能就已經(jīng)擴(kuò)散給數(shù)以千萬(wàn)計(jì)的人。在大眾心理學(xué)中，面對(duì)兩個(gè)截然相反的消息，那個(gè)不同尋常的更容易被接受。

因此，即便面對(duì)澄清，我們也往往會(huì)認(rèn)為那不過(guò)一種官方的掩飾手段。設(shè)想，當(dāng)你面對(duì)兩個(gè)都說(shuō)對(duì)方是假的視頻，而視頻本身看上去都如此真實(shí)，你會(huì)如何做判斷，而且，如果不是兩個(gè)，而是同時(shí)有三、四個(gè)羅生門(mén)般的視頻，估計(jì)大部分正常人都會(huì)被徹底搞暈。

自媒體的興起是這一問(wèn)題的催化劑，因?yàn)闆](méi)有“中間商賺差價(jià)”，理論上，所有人都可能把深偽視頻直接推給所有人。未來(lái)，真要深偽，根本不需要一個(gè)團(tuán)隊(duì)，一人足矣！

設(shè)想一下，一個(gè)不懷好意的深偽極客，躲在自己房間里就有可能引發(fā)一次現(xiàn)象級(jí)的信息海嘯，當(dāng)無(wú)數(shù)海嘯以迅雷不及掩耳盜鈴之勢(shì)鋪天蓋地而來(lái)時(shí)，一個(gè)充滿(mǎn)混亂和無(wú)所適從的時(shí)代必然隨后而至。

04

僅在2019年，1.5萬(wàn)個(gè)深偽視頻已經(jīng)上網(wǎng)，其中96%都是色情視頻。事實(shí)上，已經(jīng)有人因此深受其害。

Rana Ayyu，一位印度女調(diào)查記者，因?yàn)閳?bào)道觸怒了了不少網(wǎng)民，她的穆斯林身份，更是給她帶來(lái)經(jīng)常性的社交媒體暴力。去年4月，一名8歲的克什米爾小女孩被強(qiáng)奸，Ayyu在BBC的報(bào)道中，批評(píng)印度政府對(duì)頻發(fā)的兒童性犯罪打擊不力。

第二天，先是有人偽造她的推特截圖，說(shuō)“我恨印度和印度人”“我愛(ài)巴基斯坦”“我贊同兒童被強(qiáng)奸，只要是以伊斯蘭教的名義”。

更可怕的是第二天，當(dāng)她約了朋友在咖啡館商量怎么對(duì)付這些事的時(shí)候，接到編輯的信息和一條鏈接，點(diǎn)開(kāi)一看，是一部她做主角的色情片—?jiǎng)e有用心者把她的臉深偽到了一部色情視頻中作為報(bào)復(fù)。

Ayyu崩潰到進(jìn)了醫(yī)院，之后即使她做了很多努力，但無(wú)論她如何澄清這一切，她的每一條社交媒體發(fā)言后永遠(yuǎn)跟著無(wú)數(shù)的謾罵，其中夾雜著大量這部深偽色情片的截圖。

更有甚者，2018年6月，還是在印度，一部?jī)和唤壖艿囊曨l引發(fā)了多起暴亂，8人被殺，其中5人僅僅是因?yàn)槁愤^(guò)一個(gè)村莊，下車(chē)后跟一個(gè)當(dāng)?shù)嘏⒄f(shuō)了句話(huà)，就被隨后趕來(lái)的至少35個(gè)村民圍毆致死，隨后趕來(lái)的警察也沒(méi)能幸免，至少4名警察被打傷。

而這部網(wǎng)上傳的沸沸揚(yáng)揚(yáng)的所謂兒童綁架視頻，其實(shí)是被深偽的一部巴基斯坦兒童安全活動(dòng)的資料片，面對(duì)這種無(wú)中生有的荒誕悲劇，人們不禁在想，在未來(lái)這些會(huì)不會(huì)成為某種常態(tài)。

深偽不僅影響一些社會(huì)議題，甚至成為新型經(jīng)濟(jì)犯罪的手段。根據(jù)華爾街日?qǐng)?bào)報(bào)道，一家英國(guó)能源公司，被犯罪分子利用AI合成技術(shù)，模仿公司CEO的聲音，騙走了24.3萬(wàn)美元。

設(shè)想，在電信詐騙如此泛濫的今天，如果你的家人，特別是老年人，聽(tīng)到你“親口”說(shuō)要轉(zhuǎn)賬多少應(yīng)對(duì)某個(gè)“緊急”情況，他們會(huì)怎么做？或者你自己，聽(tīng)到你孩子的班主任，或者你的愛(ài)人在電話(huà)里焦急的告訴你孩子“出了車(chē)禍”，讓你趕緊打一筆急救費(fèi)，你會(huì)怎么做？

電話(huà)不行，那深偽一個(gè)視頻電話(huà)又如何？普通人在深偽面前幾乎毫無(wú)還手之力。

05

美國(guó)即將迎來(lái)2020年總統(tǒng)選舉，情報(bào)部門(mén)發(fā)出警告，按照目前深偽技術(shù)發(fā)展的速度，很有可能政治對(duì)手之間會(huì)有沖動(dòng)利用它，在“關(guān)鍵時(shí)刻”給對(duì)手致命一擊，特別是那些處于不利地位的候選人，精心準(zhǔn)備一個(gè)足以讓對(duì)手翻盤(pán)的話(huà)題，然后搜集對(duì)手的照片和視頻（對(duì)于公眾人物來(lái)說(shuō)，沒(méi)有任何難度）。

深偽一個(gè)含有某些真實(shí)的假視頻，然后在對(duì)手根本來(lái)不及辯解的時(shí)刻，比如投票前幾個(gè)小時(shí)利用無(wú)法追蹤IP的技術(shù)上傳到所有的社交平臺(tái)，那將造成巨大的混亂，甚至顛覆性的結(jié)果。

這種改造其實(shí)并不是什么新東西，早在80年前，斯大林就把他的政治對(duì)手，一個(gè)個(gè)從過(guò)去的公開(kāi)照片中“清除”出去。1990年代，Photoshop給了修圖師先進(jìn)工具，從而我們有了P圖的概念。而現(xiàn)在，正如一位研究者所言，也許人類(lèi)正在跨入一個(gè)“真實(shí)世界崩潰的大時(shí)代”。

BBC的新劇《真相捕捉》講了男主陷入一場(chǎng)綁架和謀殺指控，而“作案的全過(guò)程”都是由街頭的視頻探頭被檢測(cè)中心當(dāng)場(chǎng)看到的，而事實(shí)上，這一切不過(guò)是利用深偽技術(shù)合成的。這部新劇從法律角度發(fā)出了質(zhì)疑：如果深偽能夠任意制作視頻，那么現(xiàn)在法庭的視頻采信證據(jù)將不足為憑，而這將深刻影響各國(guó)的審判體系。

06

怎么辦？

第一個(gè)辦法當(dāng)然是增強(qiáng)識(shí)別能力，用AI去對(duì)付AI。五角大樓組織的DRPA事實(shí)上就是這個(gè)思路的產(chǎn)物。除了研發(fā)新型識(shí)別軟件，同時(shí)還需要改造硬件，比如在手機(jī)、攝頭、錄像機(jī)，甚至圖形工作站等等涉及深偽制作的硬件中燒入隱含識(shí)別碼，這樣便于追蹤視頻的來(lái)源。

然而，哈利·法瑞德，一位著名的圖像識(shí)別專(zhuān)家認(rèn)為，目前的圖像識(shí)別技術(shù)已經(jīng)被深偽遠(yuǎn)遠(yuǎn)甩出幾條街。我們現(xiàn)在更有可能的不是識(shí)別出哪些是假視頻，而是被假視頻愚弄，認(rèn)假為真。

在10月底華盛頓著名智庫(kù)CSIS舉行的一次深偽研討上，與會(huì)專(zhuān)家提出要加強(qiáng)對(duì)于公眾的深偽教育。但是，如上所述，即便所有人都知道深偽的存在，我們難道就有能力辨別么？充其量，我們會(huì)對(duì)所有的事情將信將疑，而日常生活中對(duì)于事實(shí)和確定感的喪失，最終結(jié)果就是我們將越來(lái)越憑借個(gè)人的喜好和主觀行事。

自文藝復(fù)興以來(lái)建立的客觀和理性大廈，將逐漸被侵蝕，另一種“迷信”將彌散到人類(lèi)社會(huì)中去。直到某一天，我們不借助AI就無(wú)法判別真相的時(shí)候，誰(shuí)掌握了AI，理論上，誰(shuí)就具備了左右真實(shí)世界的力量。

專(zhuān)家同時(shí)指出，辨別真?zhèn)我兄叵⒃矗@個(gè)提法跟倚重AI本質(zhì)上沒(méi)有區(qū)別。互聯(lián)網(wǎng)本身是去中心化的產(chǎn)物，在它誕生半個(gè)世紀(jì)之后，我們要再次投靠中心化、權(quán)威和認(rèn)證來(lái)保障真實(shí)嗎？這不僅是理念之爭(zhēng)，背后有著一個(gè)更本質(zhì)的問(wèn)題：如果我們只相信權(quán)威機(jī)構(gòu)和平臺(tái)的信息，那么誰(shuí)來(lái)監(jiān)管它們？

如果它們被操控，喪失了真實(shí)客觀，誰(shuí)有能力來(lái)糾正，誰(shuí)又有能力來(lái)告知我們真相—即便真相擺在面前，但因?yàn)樗鼈儾皇莵?lái)自于權(quán)威和中心，因此真的也為假，沒(méi)有人會(huì)相信。到那時(shí)，我們就會(huì)成為傳說(shuō)中那些永遠(yuǎn)叫不醒的人。

還有學(xué)者提出要借助法律，也許吧。在美國(guó)弗吉尼亞州已通過(guò)法律，禁止深偽色情視頻；加州和德州更把用于選舉的深偽行為視為犯罪……然而，這真的行得通嗎？

07

在CNN的深偽專(zhuān)題中，專(zhuān)家們認(rèn)為這種技術(shù)必將極大的影響世界，甚至改變歷史進(jìn)程。

試想如果阿姆斯特朗時(shí)代有深偽技術(shù)，那么誰(shuí)會(huì)真的相信美國(guó)人登上過(guò)月球？又或者，那段導(dǎo)致尼克松下臺(tái)的水門(mén)事件的電話(huà)錄音，也根本毫無(wú)說(shuō)服力，那么這位開(kāi)創(chuàng)了中美邦交正常化的總統(tǒng)，大概率不會(huì)被國(guó)會(huì)啟動(dòng)彈劾，從而獲得連任。

由此想到上個(gè)月在“烏克蘭電話(huà)門(mén)”旋渦中心的特朗普，怪不得氣定神閑，也許官司真打起來(lái)，一段音頻恐怕已經(jīng)很難像當(dāng)初那樣有殺傷力。

借用深偽視頻里“奧巴馬”的話(huà)說(shuō)，既然你的敵人可以讓你在任何時(shí)間、任何地點(diǎn)說(shuō)任何話(huà)。那么你其實(shí)可以不認(rèn)任何你說(shuō)的話(huà)，無(wú)論真假。