深偽技術創造假訊息

深偽技術創造假訊息

2home.co  楊惟雯

一、何謂深偽技術（Deepfake）？

深偽技術（Deepfake）一詞於2017年問世，是深度學習（Deep Learning）與偽造（Fake）混合而成的單字，專指基於人工智慧的人體圖像合成技術的應用。運用此技術可將已有的圖像或影片疊加至目標圖像或影片上，此已成為一種移花接木的工具。

深偽技術可偽造面部表情並將其移至目標影片，此技術在2016年出現，且此技術允許近實時地偽造現有2D影片中的面部表情。

Deepfake技術自問世以來，就常被用來偽造名人性愛影片和復仇式色情媒體。而帶色情成份的Deepfake作品於2017年間在網際網路上流出，特別是在Reddit上。

另Deepfake技術也可以用以製造假新聞及惡意惡作劇。在Youtube、Vimeo等流行的線上影片串流媒體網站上，可以很容易地找到非色情的Deepfake影片。

例如在YouTube上有流傳一個歐巴馬痛斥川普是笨蛋的影片，幕後黑手即是明星 Jordan Peele 模仿歐巴馬，但利用深度學習技術，讓影片的假歐巴馬臉部與肢體栩栩如生。

二、DeepNude的「一鍵脫衣 AI」功能

換臉偽造是通過交換兩張圖像的人臉達到偽造身分的目的。
傳統上是採用基於圖學的3D模型重建追蹤技術。較新的研究則是採用深度學習來達到換臉效果，為了解決深度學習的訓練難度和生成品質，又進一步融合了生成對抗網路技術。

表情偽造是將其他人臉圖像的表情替換到目標人臉上，從而達到目標人物做指定表情的目的。

此外，換臉偽造和表情偽造還常常結合語音偽造技術。通過文字到語音合成和語音轉換技術來製作虛假語音。

2019年 6月27日，DeepNude這款色情造假軟體首次公開上線，其針對女性的「一鍵脫衣 AI」功能已引起軒然大波，因它可以一鍵脫掉女性衣服，製造大量色情圖片。

近期，這款色情的軟體再次出現在通訊軟體Telegram中。且該軟體在Telegram 平台已經公開發布了約10多萬張色情圖片，這還不包括私下分享傳播的圖片。更重要的是，這些圖片70%全部來自社群平台的真實女性，甚至包括未成年人。也就是說，很多人日常在 Facebook等社群媒體中分享的自拍照，很可能會被人利用來製造「裸照」。

據了解，這款DeepNude軟體爆火的原因為：

DeepNude偽造色情影片已經屢見不鮮，因它操作非常簡單，只需要一張照片，上傳至軟體後，幾秒就可以自動生成裸照，不需要任何技術知識或者專門的硬體支援。加上其對所有人免費使用。不過它也有盈利模式，未付費用戶獲得的裸照後會打上浮水印標籤或僅局部裸露，而用戶支付1.28美元才可以獲得無浮水印圖片，但使用權限僅限7天100張。

透過DeepNude的技術支援，可以很容易獲得熟悉的人的裸照，主要又以名人為目標。

需要注意的是，這款造假軟體只針對女性。如果上傳一張男性或者其他任何無生命照片，系統也會自動被替換成女生的身體，並辨識成相應的器官。

另從Telegram平台的公開數據來看，許多照片中的女性都是普通上班族、大學生，而且這些照片都是來自 TikTok、Instagram、Facebook 等平台的自拍照。

深度學習先驅吳恩達（Andrew Ng）發推文稱，DeepNude 是「人工智慧最令人噁心的應用之一」。

知名作家尼娜‧揚科維奇（Nina Jankowicz）表示，DeepNude 對世界各地的女性都有巨大影響，尤其是在俄羅斯等社會較為保守的國家。如果公開發表令人信服但虛假的裸照，受害者可能會失去工作，或者面臨伴侶暴力。

在 Twitter、Reddit 等各大社群媒體平台上，有關「侵犯隱私、性別歧視」等指責聲，一直層出不窮。

有一項來自美國的網路安全公司 Sensity調查報告，它專注於所謂的「視覺威脅情報」，尤其是那些深度造假影片的傳播。他們調查發現，截至2019年7月底，Telegram 平台7個主要頻道均在使用 DeepNude軟體。

Sensity首席科學家喬治‧帕特里尼（Giorgio Patrini）指出，目前已經超過 680,000 名女性在不知情的情況下被偽造成了色情圖片，並被上傳到公共平台。Sensity 公司也表示，這些虛假的色情圖像或影片很可能被用做勒索、騷擾的手段。

當然，也有部分連續劇如光榮時代、三千鴉殺，因某些因素替換角色，但不進行重拍，乃以深偽技術進行臉部替換。

電影《玩命關頭 7》拍攝期間，主角保羅沃克意外身亡，但為了將剩下戲份拍完，製作組找了保羅沃克的弟弟加入劇組拍攝剩下戲分，並將保羅沃克的臉接在弟弟身上。

電影《星際大戰：俠盜一號》有個在《星際大戰》四五六部曲出現的名反派塔金總督也需要出場，但飾演塔金的演員彼得庫欣於 1994 年過世。通常製片公司的傳統方法是另找人飾演過世演員的角色，但為了「連戲」，這次找一個人飾演塔金總督，並將彼得庫欣的臉用動畫技術貼上。之後《星際大戰：天行者崛起》甚至出現年輕版莉亞公主與路克天行者，也都是不同演員出演，再利用電腦動畫技術運算將原版演員的臉接到身上。

有個 YouTube上著名 Deepfaker就做出比原版《星際大戰》電影更好的假影片，還被專門製作星戰特效的光魔工業挖角。

三、Deepfake技術正在肆虐社會價值

不僅是DeepNude正在肆虐社會價值，所有Deepfake軟體也均是如此。

Deepfake深度造假軟體背後的核心技術是採用所謂的生成對抗網路 (GAN) 機器學習技術，可根據現有的影像資料庫產生新的影像。GAN 透過生成器與鑑別器之間的相互Battle來製造逼真的虛假圖像、影片或語音。Deepfake 影片嚴重挑戰人眼辨別真偽的能力，讓我們對真假失去正常判斷。

具體來說，DeepNude就是基於稱為「pix2pix」的開源「圖像到圖像翻譯」軟體構建的，該軟體於 2018年由加州大學柏克萊分校的 AI 研究人員首次發現。
其核心技術 GAN能夠透過辨識真實圖像，創造自己的偽造品。比如將白天到夜晚的風景照片或從黑白變為全彩色。

要製作深度偽造影片，這項技術會分別學習如何對兩張不同的臉進行編碼和解碼。這項技術可以用來把另一張臉疊加在特定人物臉上，就能創造深度偽造影片。這項技術也能針對聲音做出細微變化，進而改變整個影片的核心訊息。

網路上越來越常見的Deepfakes內容，其是利用人工智慧中的深度學習技術，變造影片中的動作與聲音，傳遞扭曲不實的內容，常利用名人影片達到快速與廣布的傳播，並可能造成影響輿論、衝擊市場、毀人事業等負面影響。

自 2017 年，Deepfake 首次被用於製作色情影片後──神力女超人下海事件，社群上便開始大量充斥著此類影片據統計，在所有 Deepfake 創作影片中，色情影片占據96%。

2017年12月《神力女超人》女主角蓋兒加朵(Gal Gadot) 的臉被移花接木到A片上，逼真度簡直毫無破綻。該段影片是以AI演算法產生，機器大量讀取蓋兒加朵的影像後，複製出一張相似度極高的臉孔，再覆蓋A片女主角臉上。

華盛頓大學研究團隊2017年也發表一系列美國前總統歐巴馬的「造假」影片，當時該團隊僅分析17小時的歐巴馬演講影片就達到惟妙惟肖的成果。並以此警告世人深偽技術的可怕。

隨著技術的不斷升級，Deepfake 的逼真程度已經達到了肉眼難以分辨的地步，同時它也開始被應用到政治領域。如川普、歐巴馬、馬斯克等名人政客的虛假換臉影片已屢見不鮮。

如波士頓大學法學教授 Danielle Citron所說，「Deepfake 已經成為了攻擊女性強有力的武器」。

另2020年10月2日，日本警視廳逮捕熊本市大二學生林田拓海、兵庫縣工程師大槻隆信、大分縣野間口功也。3人的共通點是利用AI的「深偽」技術製作「假A片」，將女藝人的臉部合成到AV影像，營造出當事人參與A片演出的假象。

而2020年10月開始，台灣也發生擁有幾千名成員的Telegram群組「台灣網紅挖面」，將網路知名人士的臉變換到成人影片的主角臉上，並刻意販售不雅影片以換取牟利之事件，受害者達上百人，絕大多數為女性，其身分涵蓋網紅、藝人、政治人物、主播、甚至素人，包含蔡英文、黃捷、高嘉瑜、鄭家純（雞排妹）、龍龍、白癡公主、奎丁、蕾拉等人皆在其中。2021年10月18日，警方逮補主嫌小玉及共犯莊男。

據普林斯頓大學教授 Jacob Shapiro最新研究結果顯示，2013年至2019年期間，社群媒體已累計發起96次政治運動，而其中，93%為原創內容，86%放大了已有內容，74%歪曲客觀事實。而其目的多為詆毀政客、誤導公眾、激化矛盾等。

另外，目前已經出現利用 Deepfake技術的CEO詐騙，2019年9月出現 Deepfake技術製作的一段語音來誘騙英國某高階經理將 243,000 美元匯到某個歹徒所開設的帳戶。根據受害企業的保險公司表示，歹徒在電話中假冒的聲音不僅能模仿被冒充者的聲音，還能模仿其說話的語調、斷句及腔調。

四、如何關上 Deepfake的潘朵拉魔盒？

Deepfake技術現在常被拿來惡搞，用來製作色情、政治宣傳或嘲諷影片！
透過換臉、控制嘴唇、植入假造的音源檔，可製作色情、政治宣傳或嘲諷影片。 在網路上流傳著上萬個用 Deepfake (深偽技術) 製造的造假影片。

這項利用人工智慧和機器學習(Machine learning,ML)（AI/ML）合成的媒體資訊（圖片、聲音、影像等），將無辜明星、政客等知名人物的臉孔和聲音合成進成人影片和宣傳訊息內。這種「影片換臉」的技術，不知情的人乍看之下就像以為被惡搞的受害者，真的參與了演出。這類深度偽造 (deepfake)惡搞影片愈來愈多，甚至被用來犯罪。

由於工具越來越普及，加上許多開發者會將工具放到網路、臉部資料越來越好取得，因此技術門檻越來越低，許多人只要購買或下載簡單程式工具，就可以自己生成簡單的 Deepfake 影片。雖然現在能找到的大部分工具，並不足以生成以假亂真的影像，但 AI 訓練越來越強大、程式取得越來越容易的現在，這些技術開始影響政治與社會。

在目前造假媒體資訊的情況如此嚴重下，人們又該如何辨識deekfake作品？

以下例舉二個方法：

1、依「脈搏特徵變化」不同來檢測

比較有趣的是紐約州賓漢頓大學在英特爾資助下進行研究：利用隱形脈搏找出造假影片。所謂「隱形脈搏」就是指每個人照相時，鏡頭都會記錄每個人的「臉色」，隨著心臟將血液傳送身體各處，臉部膚色也會有細微變化，原理類似測手指血氧機。雖然肉眼看不見，但皮膚拍照或影片時，因脈搏產生的膚色變化還是會被鏡頭記錄，但 Deepfake人臉創建匹配時，通常不會考慮到這層面，會讓臉部與身體「脈搏特徵變化」不同，因此檢測得到不同。

此實驗準確率最高可超過 95%，同時一段影片超過 90% 時間都可檢驗到 Deepfake 作假痕跡。透過深度學習其他 Deepfake 工具模式，甚至可有 93.39% 機率辨識出哪個程式生成的 Deepfake 影片。

2、依「數位指紋」不同來檢測

Deepfake 影片演變成一項很不容易辨識的社交工程（social engineering）詐騙工具，讓受害者更容易上當。社群網站龍頭 Facebook 自然首當其衝受 Deepfake 影響，為了應對 Deepfake軟體帶來的威脅和挑戰，2019年起，Facebook 每年都會舉辦「Deepfake 檢測挑戰賽」（Deepfake Detection Challenge，DFDC），同時也與密西根州立大學合作，找出可逆向工程 Deepfake 的方法：找出 A.I. 生成模型留下的「數位指紋」。這概念與英特爾資助的「隱形脈搏」研究有共通處──利用 A.I. 學習各種 Deepfake 偽造模式，然後訓練 A.I. 辨識肉眼不可見的細節，揪出可能經 Deepfake 偽造的影片。

因每個 Deepfake生成的模型都有獨特參數，是 Deepfake工具偽造影片與人臉時的變量，對生成影像的方式與結果產生影響。密西根大學與 Facebook 團隊以汽車比喻：「有點像根據聲音辨識是哪台汽車開過，即使從未聽過汽車資訊。」

儘管目前檢測方式越來越多，準確度也越來越高，但製造虛假影片的趨勢依然沒有得到很好的抑制。因目前最先進技術也很難全面防堵Deepfake技術濫用。

究其原因，其一可能是AI製造虛假內容的工具、材料取得越來越方便，如 DeepNude，只需要一張照片，人人都可以上手。

其二可能是，每天都有很多新技術誕生，現在過濾技術卻遠遠跟不上。
Facebook在2021年 Deepfake大賽，以10萬部Facebook自製影片為測試範圍，參賽者利用演算法分析完影片後，獲得 82.56%準確率，但再拿另一組黑盒測試，準確率下降到 65.18%，代表現存世界過濾演算法的發展還跟不上生成偽造影片的演算法。

目前使用檢測技術仍追不上Deepfake生成技術的進化，甚至會有種「道高一尺、魔高一丈」之感。當前首要任務是，要能引起社會關注，讓更多人投入Deepfake過濾器改進與改善，才能突破困境。

另外，誠如Sensity 公司負責人所說，DeepNude目前還處於法律的灰色地帶。因此，要想關上 Deepfake潘朵拉的魔盒，需要修法懲罰及道德譴責雙管齊下，亦即需要法律約束和人心向善的同步引導。只有人心不造惡，社會才能清明。