備受爭議的 YouTuber 小玉利用 Deepfake 技術，把台灣女性名人實況主的臉套入色情影片並販售謀利，引發台灣 YouTube 圈、實況圈甚至政治圈憤怒，甚至連總統蔡英文都矢言立法杜絕這類問題，讓這從 2017 年開始火紅的技術備受台灣社會關注。
像 Deepfake 這類「移花接木」技術，應用在色情產業由來已久，只要搜尋一些藝人、裸露相關關鍵字，就會看到許多頭被接入色情圖片的明星照，許多知名色情網站也有不少 Deepfake 影片。由於技術越來越成熟、越來越多人使用，因此許多應用早就不限色情影片。
《玩命關頭 7》拍攝期間，主角保羅沃克意外身亡，但為了將剩下戲份拍完，製作組找了保羅沃克的弟弟加入劇組拍攝剩下戲分，並將保羅沃克的臉接在弟弟身上。
電影《星際大戰：俠盜一號》有個在《星際大戰》四五六部曲出現的名反派塔金總督也需要出場，但飾演塔金的演員彼得庫欣於 1994 年過世。通常製片公司的傳統方法是另找人飾演過世演員的角色，但為了「連戲」，這次找一個人飾演塔金總督，並將彼得庫欣的臉用動畫技術貼上。之後《星際大戰：天行者崛起》甚至出現年輕版莉亞公主與路克天行者，也都是不同演員出演，再利用電腦動畫技術運算將原版演員的臉接到身上。
▲ 左邊是真人塔金，右邊是電腦動畫做的塔金。（Source：YouTube ）
原本這些偽造技術都要昂貴、需大量技巧的 3D 繪圖與建模軟體幫忙，但 AI 技術越來越強大、機械學習能力突破天際時，利用「深度學習 Deep Learning 」「偽造 Fake」，就成為現今所知的 Deepfake。透過 AI 演算法讓臉部偽造越來越容易，也越來越難識破。有個 YouTube 著名 Deepfaker 就做出比原版《星際大戰》電影更好的假影片，還被專門製作星戰特效的光魔工業挖角。
▲ Deepfake 技術比電腦動畫更自然。
Deepfake 的道德與社會爭議
名 TikTok 帳號 Tom Cruise Tiktok，專門上傳名演員湯姆克魯斯的 Deepfake 影片，擁有者利用機器學習技術，讓 Deepfake 程式學習如何更像原版湯姆克魯斯，在 TikTok 引發 Deepfake 旋風，影片更獲得上百萬次觀看數。前陣子 YouTube 流傳歐巴馬痛斥川普是笨蛋的影片，幕後黑手是明星 Jordan Peele 模仿歐巴馬，但利用深度學習技術，讓影片的假歐巴馬臉部與肢體栩栩如生。
上面這些例子，由於製作者很明顯揭露是用 Deepfake 技術合成，雖然我們並沒有被這些影片騙過，但需製作者自我揭露才會發現是假的影片，背後隱含令人不安的訊息：如果這些人願意，都可以做出更危險、對社會更有害的事。
由於工具越來越普及，加上許多開發者會將工具放到網路、臉部資料越來越好取得，因此技術門檻越來越低，許多人只要購買或下載簡單程式工具，就可以自己生成簡單的 Deepfake 影片。雖然現在能找到的大部分工具，並不足以生成以假亂真的影像，但 AI 訓練越來越強大、程式取得越來越容易的現在，這些技術開始影響政治與社會，如以下例子：
今年 3 月，緬甸軍政府發表影片，是仰光省前任首席部長承認曾給翁山蘇姬 60 萬美元與 11 公斤黃金，緬甸軍政府就此證據認定翁山蘇姬貪污並調查。但也有質疑者認為，部長聲音與臉部表情不自然，且影片說明鉅細靡遺，也讓緬甸社群用戶與記者質疑影片的真實性，之一就是認為影片可能以 Deepfake 製作。不管影片是否使用 Deepfake 技術，背後代表許多人的擔憂──會不會因一支假影片就造成社會動盪，甚至偏嚴重的政治影響。
鑑於可能發生的問題，許多人開始研發反制、辨識 Deepfake 的手段。
技術濫用如何防堵？檢測技術發展
比較有趣的是紐約州賓漢頓大學在英特爾資助下進行研究：利用隱形脈搏找出造假影片。所謂「隱形脈搏」就是指每個人照相時，鏡頭都會記錄每個人的「臉色」，隨著心臟將血液傳送身體各處，臉部膚色也會有細微變化，原理類似測手指血氧機。雖然肉眼看不見，但皮膚拍照或影片時，因脈搏產生的膚色變化還是會被鏡頭記錄，但 Deepfake 人臉創建匹配時，通常不會考慮到這層面，會讓臉部與身體「脈搏特徵變化」不同，因此檢測得到不同。
▲ 脈搏會影響人臉膚色變化。（Source：Wenjin Wang）
實驗準確率最高可超過 95%，同時一段影片超過 90% 時間都可檢驗到 Deepfake 作假痕跡。透過深度學習其他 Deepfake 工具模式，甚至可有 93.39% 機率辨識出哪個程式生成的 Deepfake 影片。
▲ 脈搏測定法論文展示準確率變化。（Source：論文）
社群網站龍頭 Facebook 自然首當其衝受 Deepfake 影響，因此 Facebook 每年都會舉辦 Deepfake 挑戰賽，同時也與密西根州立大學合作，找出可逆向工程 Deepfake 的方法：找出 A.I. 生成模型留下的「數位指紋」。這概念與英特爾資助的「隱形脈搏」研究有共通處──利用 A.I. 學習各種 Deepfake 偽造模式，然後訓練 A.I. 辨識肉眼不可見的細節，揪出可能經 Deepfake 偽造的影片。
每個 Deepfake 生成的模型都有獨特參數，是 Deepfake 工具偽造影片與人臉時的變量，對生成影像的方式與結果產生影響。密西根大學與 Facebook 團隊以汽車比喻：「有點像根據聲音辨識是哪台汽車開過，即使從未聽過汽車資訊。」
但 The Verge 編輯認為，即使這樣，最先進技術也很難全面防堵 Deepfake 技術濫用。部分原因是這領域非常活躍，每天都有很多新技術誕生，現在過濾技術遠遠跟不上。Facebook 去年 Deepfake 大賽，以 10 萬部 Facebook 自製影片為測試範圍，參賽者利用演算法分析完影片後，獲得 82.56% 準確率，但再拿另一組黑盒測試，準確率下降到 65.18%，代表現存世界過濾演算法的發展還跟不上生成偽造影片的演算法。
Deepfake 的道德議題與挑戰
2020 年 2 月，《時代》雜誌用 VR 技術重現著名黑人運動領袖馬丁路德金的華盛頓遊行，雖然並非使用 Deepfake 技術拍攝，但之後騰訊在人工智慧技術白皮書認為，Deepfake 技術可用於類似目的。迪士尼曾在電影使用過世演員的臉放在替身身上的技術，因此《星際大戰》第八集後，飾演莉亞公主的嘉莉費雪意外過世，許多影迷請願不希望迪士尼用這技術「復活演員」去完成未拍完的第九集，後來迪士尼使用未公開片段拍成第九集。
目前使用 DeepFake 創造「未經本人同意」就使用他人臉部的性愛影片，遠多於政治或諷刺操作，但相關技術正在改進，檢測技術追不上 Deepfake 生成技術的當下，甚至會有種「道高一尺、魔高一丈」之感，這類迅速擴大、商業化的偽造技術，同時也擴大有害用途的可能性。大眾很快就會面臨「需要辨識影片是否深度偽造」困境，可能會在短期內迅速擴散、跨過社會某些底線。
小玉 Deepfake 事件發生後，台灣法務部表示將迅速提出修法，保障「未經同意」的人被 Deepfake 技術冒用的權益。但隱藏自己數位足跡的方式也越來越多元化，如果並非像小玉那樣想賺黑心錢，只是單純想靠創造 Deepfake 影片獲得其他利益，也有許多方式掩蓋蹤跡不被抓到。對「抓不到的人」來說，法律作用形同虛設。
當前要務不只是修法或譴責，更重要的是能否引起社會關注，讓更多人投入 Deepfake 過濾器改進與改善，才能大量減少可能引發的社會議題與困境。
（首圖來源：shutterstock）