編輯導語：AI換臉技術早已經不是什麼新鮮事，但是其對內容業的影響卻是持續存在的。如今，已經實現了通過AI換臉術打造網紅，他們甚至可以擁有大批的粉絲。持續進步的AI換臉術，將如何影響內容業？
AI換臉早已不是新鮮事，與前兩年相比，如今智能技術與真實世界的融合效果更加自然，讓人更加難以分辨。比如，韓國網紅Rui憑藉甜美自然的外形、紮實的唱功在YouTube上收割了一大批粉絲。
然而，三個月前她卻自曝自己的臉是假的——她找到韓國的一家AI公司，公司通過資料庫里上千張臉的數據對比，合成出民眾喜歡的面部結構和風格，讓她在上鏡后自動變成韓系甜妹臉，其換臉后在鏡頭前呈現出的自然程度讓不少網友直呼難以置信。
圖片來源：Youtube@Ruicovery
除此之外，以AI換臉為代表的Deepfake技術自2018年後廣泛應用在各個領域，技術之進步所產生的效果卻令人喜憂參半。本期全媒派帶來彙編文章，藉由網紅Rui的換臉故事淺談越來越真實的AI換臉會帶來哪些驚喜？又有何隱患？
一、AI換臉塑造真假難辨的網紅
隨著深度學習技術的不斷發展，虛擬與現實的邊界逐漸模糊，AI換臉的真實程度如今已能做到讓人們難以分辨真假。
視頻博主RuiCovery是在YouTube上小有名氣的翻唱歌手，她發布的翻唱視頻和旅行vlog依靠其甜美的外表和紮實的唱功吸引了一眾「顏粉」和「實力粉」，這讓她的動態經常收穫5萬甚至10萬以上的點贊數。
圖片來源：Youtube@Ruicovery
然而，2021年初，Rui在視頻中坦言她的形象完全是由技術公司DOB Studio一手打造，在視頻中只有髮型、身體和聲音是真實來源於「扮演者」的，而臉部則完全通過人工智慧合成。
這一消息讓死忠粉相當震驚，在她的視頻下有大量網友留言稱，「原來這是一張不存在的臉，讓人起雞皮疙瘩。」對此，也有不少評論稱，「AI技術發展得太厲害了，讓人難以想象，十年後的世界會是什麼樣子？」
據為Rui合成臉部的DOB Studio公司代表介紹，工作室是利用了機器學習去梳理了大量眾多漂亮面孔的人臉數據，並使用了特定的人臉圖像合成技術，將創建虛假圖像的人臉「換」到了Rui的「扮演者」現實中的身體上。
Rui在媒體採訪中表示，自己一直想當歌手，但是在韓國，歌手和偶像都是十分看重外表的，然而對外表並不自信的她一度覺得自己可能永遠不會成功。後來了解到AI換臉技術，於是決定把心思放在自己的肩膀以上部位，沒想到採用了虛擬人臉的翻唱視頻能夠這麼受歡迎。
這樣的換臉技術在幾年前就曾爆火過。以國內用戶比較熟悉的「ZAO」App為例，用戶只需要提供一系列自拍照，軟體便會幫他們記錄眨眼、移動嘴巴和做出面部表情的動態數據，使用這些自拍照將人的動畫形象逼真地嫁接到電影、電視節目或其他內容上。
相比於「ZAO」等軟體為用戶提供的換臉技術，Rui在視頻中呈現出的以假亂真的程度則讓人們更明顯地感受到了機器深度學習的進步，這種進步並不止於實驗室，而是對現實中的內容消費產生了實實在在的影響。
以Rui為例，現在的AI換臉技術對於光影結構和動態五官的處理更為細膩，即便是動態的，幾乎也看不出任何P的痕迹，所謂的「深度偽造」已經名副其實。
二、AI換臉的基礎邏輯
AI換臉是Deepfake技術中的一種，Deepfake包括以圖片形式存在的臉部替換、以音頻形式存在的聲音替換以及影像中面部與聲音的同步替換。Deepfake中的「deep」指「深度學習」。
深度學習系統能夠一遍又一遍地處理某些任務，使用機器深度學習進行Deepfake換臉則意味著一個人的臉會以人工編輯可能意想不到或無法檢測到的方式變成另一個人的臉。
舉個例子，如果要使用AI換臉，在核心技術環節里，編碼器能夠學習兩個人的面部共同特徵，並根據這些一般特徵產生300多個測量值——如五官、情緒表達等。在這個過程中，兩個長相不同的人的圖片被放置在虛擬空間中的相似位置，最終在數據的對比中產生的相似的測量值，生成的人臉將表現出與原始輸入圖像相同的情緒表達、頭部姿勢等。
圖片來源：論文：Deepfakes: Trick or treat？
正是因為這樣的原理，AI換臉技術相比於完全由計算機建模而成的「數字人類」更為真實，也減少了恐怖谷效應的產生。人類的所有面孔都會有共同點，即使是在外表截然不同的人之間，只要某些元素一致，我們的大腦就會傾向於相信他們所看到的。
例如，如果有人將尼古拉斯·凱奇的臉強加在艾米·亞當斯的身上，軟體將了解原始面部的哪些部分是每個演員特有的，應該改變哪些部分如眼睛顏色、嘴形，應該保留哪些重要動作如眉毛抬起、嘴巴張開。在面部交換后，則會留下一張具有尼古拉斯·凱奇特有特徵的面孔，但又具有亞當斯的原始舉止。
圖片來源：https://www.smh.com.au/technology/what-is-the-difference-between-a-fake-and-a-deepfake-20200729-p55ghi.html
三、AI換臉應用對於內容業的部分影響
1. 利好：用於電視和電影製作
如今AI換臉技術已經被廣泛應用在了影視製作領域，演員可以通過換臉技術進行面部替換，已故演員可以在系列電影中為「情懷」重現，特技替身將更加完美地還原於角色本身，此外它還可以用於自動生成不同語言的畫外音，以增加電影的全球發行量。
例如演員保羅·沃克在一場車禍中去世后，電影《速度與激情7》團隊為了儘可能忠實於電影並尊重演員，聘請了最好的數字效果工作室之一，以AI換臉的形式讓他參與到了電影的最後一部分。團隊收集了保羅·沃克的350個CGI鏡頭並與他的親兄弟進行鏡頭配對。比如在跳車后的鏡頭，原演員的臉被保羅CG版本所取代。
圖片來源：https://www.hollywoodreporter.com/movies/movie-news/how-furious-7-brought-late-845763/
2. 利好：個性化營銷與宣傳將變得豐富
如今基於Deepfake和AI搭建的合成媒體正在成為吸引客戶並提供個性化價值的基礎。在時尚零售業務中，品牌可以通過換臉技術讓客戶試用最新的服裝和配飾，以此滿足客戶的個性化需求。這樣的換臉技術甚至能夠使品牌擁有一個虛擬試用室，供用戶在購買之前體驗產品。
此前英國的一家健康慈善機構與大衛·貝克漢姆和一家人工智慧公司合作製作了一段視頻。通過機器深度學習對貝克漢姆臉部的識別與嘴形的替換，視頻中的他能夠無縫銜接地說出九種語言。
在機器深度學習下，視頻中的人物始終可以保持面部運動與聲音相匹配。因此，在AI換臉技術的幫助下，人們可以更好地在全球範圍內分享思想、電影和其他創意作品。
這將改善未來個性化營銷和內容宣傳的多樣性。換句話說，語言障礙會被打破，更多的內容將以個性化的方式展示在受眾面前。
3. 弊端：女性成為換臉色情片的主要受害者
布魯金斯學會技術創新中心治理研究非常駐高級研究員約翰·維拉森諾(John Villasenor)認為，「Deepfake技術以一種最大限度地、利用社交媒體生態系統的方式將信息武器化了。」當先進的技術被濫用時，它則會變成武器，在流量為王的時代傷害人們，無論是公眾人物或是弱勢群體，都無一例外。
2019年9月，阿姆斯特丹的一家致力於研究Deepfake不斷發展的能力和威脅的組織Deeptrace發表了一項對當時在線傳播的近15000個換臉視頻的研究。
研究發現，在發布的換臉視頻中，有96%是色情內容，其中99%的內容是女性名人的面孔。
2020年，在國外三個較大的色情網站上，一條「借用」了女演員艾瑪·沃特森的臉的色情視頻被觀看超過2300萬次。其他擁有數十萬或數百萬觀看次數的換臉色情視頻也包括許多名人，如演員娜塔麗·波特曼、歌手碧梨和歌手泰勒·斯威夫特。
邁阿密大學法學教授瑪麗·安妮·弗蘭克斯(Mary Anne Franks)說：「這令人沮喪，其證實了我們這些聽說過這項技術的人一開始就提出的所有恐懼。現在你已經看到了更可怕的現實，無論你是否拍過裸照，或者是否與某人分享過任何類型的私密數據，他們所需要的只是一張你的臉部照片。」
然而，目前國外針對換臉色情視頻的法律援助並沒有跟上技術的發展。事實上，它還沒有為人工智慧生成的色情片所帶來的影響做好準備，大多數訴訟過程都是繁重複雜的。
4. 弊端：視頻假新聞讓「眼見」不再「為實」
當新聞和人工智慧結合，數字媒體的規模也被前所未有地放大了。這有可能為社會帶來新的好處，但也可能被濫用，錯誤引導輿論。
當視頻被AI換臉技術造假，扭曲現實的能力也有了指數級的飛躍。在人們的傳統認知中，視頻影像捕捉到的東西是最無可爭辯的證據，是最可信賴的媒體資源。然而當合成視頻出現，假新聞則變得更容易掩蓋真相，曾經「眼見為實」的觀念也將逐漸崩塌。
例如，在疫情暴發期間，就曾有相關組織利用換臉技術合成視頻，發布關於新冠病毒的假新聞。比利時一家環保運動組織使用AI換臉和人工合成的技術改變了某位重要政府官員的一次講話，在這段重現了當事人聲音和肖像的合成視頻中，數十篇關於全球變暖對地球造成影響的科學出版物被拼湊在一起，將新冠疫情編造為環境破壞的後果。
如果這樣的視頻假新聞滲透在各個社交媒體中，便會降低公眾對其他合法信源的信任，並增加被錯誤信息或虛假信息誤導的風險。
5. 弊端：新詐騙形式令人防不勝防
如今多數網友都擁有多個社交媒體的賬號，如微博、微信或是抖音、知乎，賬號里也許會有許多自拍和視頻。在AI換臉技術的發展下，詐騙的形式也變得更豐富，讓人防不勝防。
不法分子不僅能夠偽造聲音騙取受害人的錢財，甚至可以通過保存大量視頻並通過偽造人臉與嘴形以視頻對話的形式冒充他人並騙取錢財。
2019年，就有犯罪分子曾使用音頻假冒一家德國能源公司CEO與其英國分公司打電話，命令員工將大筆資金轉入其私人賬戶，最後騙取了22萬歐元。此外，允許使用Deepfake技術模擬視頻通話的軟體也讓更多人暴露在電信詐騙的危險之中。
四、降低偽造風險是一項長期行為
Deepfake的濫用不斷給內容創作行業帶來新挑戰，並且已經造成了負面後果。正如上文所列舉的色情內容、假新聞的泛濫和網路詐騙等。那麼，怎樣應對這項技術帶來的威脅呢？這顯然是一項長期行為。
在技術層面，隨著深度造假威脅的加劇，技術專家也正在努力開發新的檢測方法。當前狀態下對於Deepfake技術的檢測通常被形容為「貓捉老鼠」的遊戲，該術語最初用於描述快速發展的網路安全攻擊和防禦之間的對抗，在AI換臉語境里的對抗性遊戲則是指在Deepfake生成器和用於識別它們的學習檢測器之間的對抗。
例如，奧爾巴尼大學 (SUNY) 的研究人員發表了一篇論文，概述了如何通過合成對象中是否眨眼來識別假視頻。因為AI換臉的生成器很少在閉眼時接收輸入幀，所以在偽造視頻中人臉不會遵循自然閃爍的規律。像Facebook這樣的企業也在開發機器學習模型來檢測視頻中是否有AI換臉技術的存在。
此外，區塊鏈技術能夠將視頻鏈接到可信/信譽良好的實體，雖然技術成本較高，但依舊是未來識別換臉視頻等一類Deepfake的有效工具。
在教育與媒體素養層面，越來越多的技術人員正在研究並披露Deepfake對社會公眾帶來的危害，當人們了解合成媒介的存在和可能發生的事情時，這種欺騙的可能性就會降低。例如，當一個人熟知了偽造視頻下的特徵缺陷，他們將能夠憑藉自己的判斷來自行選擇該相信什麼和不該相信什麼。
在監管層面，對於假新聞來源和有危害的不良信息，可以通過更有力的手段來加以約束，提高利用AI換臉技術進行造假或犯罪的成本，壓縮不良信息的傳播空間。
總之，當AI換臉這樣的功能越來越高深、越來越普及，技術對內容的每一次細微影響都值得被捕捉、被記錄，以幫助人們在機會來臨時迅速理解並搭上快車，並在風險隱患增加時有效感知並找到應對方法。
參考鏈接：
- https://doi.org/10.1016/j.bushor.2019.11.006
- https://doi-org.ezproxy.bu.edu/10.1515/mopp-2020-0024
- https://www.archyde.com/south-korean-youtuber-rui-my-face-is-ai-and-all-netizens-have-unbelievable-goosebumps-zhong-lewei/
- https://www.wired.com/story/face-swap-porn-legal-limbo/
- https://www.smh.com.au/technology/what-is-the-difference-between-a-fake-and-a-deepfake-20200729-p55ghi.html
- https://www.theverge.com/2021/5/18/22430340/deepfake-dubs-dubbing-film-tv-flawless-startup
- https://ieeexplore-ieee-org.ezproxy.bu.edu/document/9123958
- https://www.frontiersin.org/articles/10.3389/fcomm.2021.632317/full
- https://www.wired.co.uk/article/telegram-deepfakes-deepnude-ai
- https://chinapost.nownews.com/20210318-2212038
- https://www.odditycentral.com/news/this-south-korean-youtuber-isnt-real-but-the-result-of-impressive-deepfake-technology.html
- https://www.theguardian.com/technology/2019/sep/02/chinese-face-swap-app-zao-triggers-privacy-fears-viral
- https://www.polygon.com/2015/10/20/9577863/furious-7-used-350-cgi-shots-of-paul-walker
- https://www.hollywoodreporter.com/movies/movie-news/how-furious-7-brought-late-845763/
- https://www.thinkautomation.com/bots-and-ai/yes-positive-deepfake-examples-exist/
- https://www.wired.co.uk/article/deepfake-porn-websites-videos-law
- https://www.brusselstimes.com/news/172816/airport-council-warns-of-potential-chaos-due-to-covid-linked-checks/
- https://cacm.acm.org/magazines/2021/3/250701-what-to-do-about-deepfakes/fulltext
- https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402
公眾號：全媒派（ID：quanmeipai）