深偽技術創造假訊息
2home.co 楊惟雯
一、何謂深偽技術（Deepfake）？
深偽技術（Deepfake）一詞於2017年問世，是深度學習（Deep Learning）與偽造（Fake）混合而成的單字，專指基於人工智慧的人體圖像合成技術的應用。運用此技術可將已有的圖像或影片疊加至目標圖像或影片上，此已成為一種移花接木的工具。
深偽技術可偽造面部表情並將其移至目標影片，此技術在2016年出現，且此技術允許近實時地偽造現有2D影片中的面部表情。
Deepfake技術自問世以來，就常被用來偽造名人性愛影片和復仇式色情媒體。而帶色情成份的Deepfake作品於2017年間在網際網路上流出，特別是在Reddit上。
另Deepfake技術也可以用以製造假新聞及惡意惡作劇。在Youtube、Vimeo等流行的線上影片串流媒體網站上，可以很容易地找到非色情的Deepfake影片。
例如在YouTube上有流傳一個歐巴馬痛斥川普是笨蛋的影片，幕後黑手即是明星 Jordan Peele 模仿歐巴馬，但利用深度學習技術，讓影片的假歐巴馬臉部與肢體栩栩如生。
二、DeepNude的「一鍵脫衣 AI」功能
換臉偽造是通過交換兩張圖像的人臉達到偽造身分的目的。
傳統上是採用基於圖學的3D模型重建追蹤技術。較新的研究則是採用深度學習來達到換臉效果，為了解決深度學習的訓練難度和生成品質，又進一步融合了生成對抗網路技術。
表情偽造是將其他人臉圖像的表情替換到目標人臉上，從而達到目標人物做指定表情的目的。
此外，換臉偽造和表情偽造還常常結合語音偽造技術。通過文字到語音合成和語音轉換技術來製作虛假語音。
2019年 6月27日，DeepNude這款色情造假軟體首次公開上線，其針對女性的「一鍵脫衣 AI」功能已引起軒然大波，因它可以一鍵脫掉女性衣服，製造大量色情圖片。
近期，這款色情的軟體再次出現在通訊軟體Telegram中。且該軟體在Telegram 平台已經公開發布了約10多萬張色情圖片，這還不包括私下分享傳播的圖片。更重要的是，這些圖片70%全部來自社群平台的真實女性，甚至包括未成年人。也就是說，很多人日常在 Facebook等社群媒體中分享的自拍照，很可能會被人利用來製造「裸照」。
據了解，這款DeepNude軟體爆火的原因為：
DeepNude偽造色情影片已經屢見不鮮，因它操作非常簡單，只需要一張照片，上傳至軟體後，幾秒就可以自動生成裸照，不需要任何技術知識或者專門的硬體支援。加上其對所有人免費使用。不過它也有盈利模式，未付費用戶獲得的裸照後會打上浮水印標籤或僅局部裸露，而用戶支付1.28美元才可以獲得無浮水印圖片，但使用權限僅限7天100張。
透過DeepNude的技術支援，可以很容易獲得熟悉的人的裸照，主要又以名人為目標。
需要注意的是，這款造假軟體只針對女性。如果上傳一張男性或者其他任何無生命照片，系統也會自動被替換成女生的身體，並辨識成相應的器官。
另從Telegram平台的公開數據來看，許多照片中的女性都是普通上班族、大學生，而且這些照片都是來自 TikTok、Instagram、Facebook 等平台的自拍照。
深度學習先驅吳恩達（Andrew Ng）發推文稱，DeepNude 是「人工智慧最令人噁心的應用之一」。
知名作家尼娜‧揚科維奇（Nina Jankowicz）表示，DeepNude 對世界各地的女性都有巨大影響，尤其是在俄羅斯等社會較為保守的國家。如果公開發表令人信服但虛假的裸照，受害者可能會失去工作，或者面臨伴侶暴力。
在 Twitter、Reddit 等各大社群媒體平台上，有關「侵犯隱私、性別歧視」等指責聲，一直層出不窮。
有一項來自美國的網路安全公司 Sensity調查報告，它專注於所謂的「視覺威脅情報」，尤其是那些深度造假影片的傳播。他們調查發現，截至2019年7月底，Telegram 平台7個主要頻道均在使用 DeepNude軟體。
Sensity首席科學家喬治‧帕特里尼（Giorgio Patrini）指出，目前已經超過 680,000 名女性在不知情的情況下被偽造成了色情圖片，並被上傳到公共平台。Sensity 公司也表示，這些虛假的色情圖像或影片很可能被用做勒索、騷擾的手段。
當然，也有部分連續劇如光榮時代、三千鴉殺，因某些因素替換角色，但不進行重拍，乃以深偽技術進行臉部替換。
電影《玩命關頭 7》拍攝期間，主角保羅沃克意外身亡，但為了將剩下戲份拍完，製作組找了保羅沃克的弟弟加入劇組拍攝剩下戲分，並將保羅沃克的臉接在弟弟身上。
電影《星際大戰：俠盜一號》有個在《星際大戰》四五六部曲出現的名反派塔金總督也需要出場，但飾演塔金的演員彼得庫欣於 1994 年過世。通常製片公司的傳統方法是另找人飾演過世演員的角色，但為了「連戲」，這次找一個人飾演塔金總督，並將彼得庫欣的臉用動畫技術貼上。之後《星際大戰：天行者崛起》甚至出現年輕版莉亞公主與路克天行者，也都是不同演員出演，再利用電腦動畫技術運算將原版演員的臉接到身上。
有個 YouTube上著名 Deepfaker就做出比原版《星際大戰》電影更好的假影片，還被專門製作星戰特效的光魔工業挖角。
三、Deepfake技術正在肆虐社會價值
不僅是DeepNude正在肆虐社會價值，所有Deepfake軟體也均是如此。
Deepfake深度造假軟體背後的核心技術是採用所謂的生成對抗網路 (GAN) 機器學習技術，可根據現有的影像資料庫產生新的影像。GAN 透過生成器與鑑別器之間的相互Battle來製造逼真的虛假圖像、影片或語音。Deepfake 影片嚴重挑戰人眼辨別真偽的能力，讓我們對真假失去正常判斷。
具體來說，DeepNude就是基於稱為「pix2pix」的開源「圖像到圖像翻譯」軟體構建的，該軟體於 2018年由加州大學柏克萊分校的 AI 研究人員首次發現。
其核心技術 GAN能夠透過辨識真實圖像，創造自己的偽造品。比如將白天到夜晚的風景照片或從黑白變為全彩色。
要製作深度偽造影片，這項技術會分別學習如何對兩張不同的臉進行編碼和解碼。這項技術可以用來把另一張臉疊加在特定人物臉上，就能創造深度偽造影片。這項技術也能針對聲音做出細微變化，進而改變整個影片的核心訊息。
網路上越來越常見的Deepfakes內容，其是利用人工智慧中的深度學習技術，變造影片中的動作與聲音，傳遞扭曲不實的內容，常利用名人影片達到快速與廣布的傳播，並可能造成影響輿論、衝擊市場、毀人事業等負面影響。
自 2017 年，Deepfake 首次被用於製作色情影片後──神力女超人下海事件，社群上便開始大量充斥著此類影片據統計，在所有 Deepfake 創作影片中，色情影片占據96%。
2017年12月《神力女超人》女主角蓋兒加朵(Gal Gadot) 的臉被移花接木到A片上，逼真度簡直毫無破綻。該段影片是以AI演算法產生，機器大量讀取蓋兒加朵的影像後，複製出一張相似度極高的臉孔，再覆蓋A片女主角臉上。
華盛頓大學研究團隊2017年也發表一系列美國前總統歐巴馬的「造假」影片，當時該團隊僅分析17小時的歐巴馬演講影片就達到惟妙惟肖的成果。並以此警告世人深偽技術的可怕。
隨著技術的不斷升級，Deepfake 的逼真程度已經達到了肉眼難以分辨的地步，同時它也開始被應用到政治領域。如川普、歐巴馬、馬斯克等名人政客的虛假換臉影片已屢見不鮮。
如波士頓大學法學教授 Danielle Citron所說，「Deepfake 已經成為了攻擊女性強有力的武器」。
另2020年10月2日，日本警視廳逮捕熊本市大二學生林田拓海、兵庫縣工程師大槻隆信、大分縣野間口功也。3人的共通點是利用AI的「深偽」技術製作「假A片」，將女藝人的臉部合成到AV影像，營造出當事人參與A片演出的假象。
而2020年10月開始，台灣也發生擁有幾千名成員的Telegram群組「台灣網紅挖面」，將網路知名人士的臉變換到成人影片的主角臉上，並刻意販售不雅影片以換取牟利之事件，受害者達上百人，絕大多數為女性，其身分涵蓋網紅、藝人、政治人物、主播、甚至素人，包含蔡英文、黃捷、高嘉瑜、鄭家純（雞排妹）、龍龍、白癡公主、奎丁、蕾拉等人皆在其中。2021年10月18日，警方逮補主嫌小玉及共犯莊男。
據普林斯頓大學教授 Jacob Shapiro最新研究結果顯示，2013年至2019年期間，社群媒體已累計發起96次政治運動，而其中，93%為原創內容，86%放大了已有內容，74%歪曲客觀事實。而其目的多為詆毀政客、誤導公眾、激化矛盾等。
另外，目前已經出現利用 Deepfake技術的CEO詐騙，2019年9月出現 Deepfake技術製作的一段語音來誘騙英國某高階經理將 243,000 美元匯到某個歹徒所開設的帳戶。根據受害企業的保險公司表示，歹徒在電話中假冒的聲音不僅能模仿被冒充者的聲音，還能模仿其說話的語調、斷句及腔調。
四、如何關上 Deepfake的潘朵拉魔盒？
Deepfake技術現在常被拿來惡搞，用來製作色情、政治宣傳或嘲諷影片！
透過換臉、控制嘴唇、植入假造的音源檔，可製作色情、政治宣傳或嘲諷影片。 在網路上流傳著上萬個用 Deepfake (深偽技術) 製造的造假影片。
這項利用人工智慧和機器學習(Machine learning,ML)（AI/ML）合成的媒體資訊（圖片、聲音、影像等），將無辜明星、政客等知名人物的臉孔和聲音合成進成人影片和宣傳訊息內。這種「影片換臉」的技術，不知情的人乍看之下就像以為被惡搞的受害者，真的參與了演出。這類深度偽造 (deepfake)惡搞影片愈來愈多，甚至被用來犯罪。
由於工具越來越普及，加上許多開發者會將工具放到網路、臉部資料越來越好取得，因此技術門檻越來越低，許多人只要購買或下載簡單程式工具，就可以自己生成簡單的 Deepfake 影片。雖然現在能找到的大部分工具，並不足以生成以假亂真的影像，但 AI 訓練越來越強大、程式取得越來越容易的現在，這些技術開始影響政治與社會。
在目前造假媒體資訊的情況如此嚴重下，人們又該如何辨識deekfake作品？
以下例舉二個方法：
1、依「脈搏特徵變化」不同來檢測
比較有趣的是紐約州賓漢頓大學在英特爾資助下進行研究：利用隱形脈搏找出造假影片。所謂「隱形脈搏」就是指每個人照相時，鏡頭都會記錄每個人的「臉色」，隨著心臟將血液傳送身體各處，臉部膚色也會有細微變化，原理類似測手指血氧機。雖然肉眼看不見，但皮膚拍照或影片時，因脈搏產生的膚色變化還是會被鏡頭記錄，但 Deepfake人臉創建匹配時，通常不會考慮到這層面，會讓臉部與身體「脈搏特徵變化」不同，因此檢測得到不同。
此實驗準確率最高可超過 95%，同時一段影片超過 90% 時間都可檢驗到 Deepfake 作假痕跡。透過深度學習其他 Deepfake 工具模式，甚至可有 93.39% 機率辨識出哪個程式生成的 Deepfake 影片。
2、依「數位指紋」不同來檢測
Deepfake 影片演變成一項很不容易辨識的社交工程（social engineering）詐騙工具，讓受害者更容易上當。社群網站龍頭 Facebook 自然首當其衝受 Deepfake 影響，為了應對 Deepfake軟體帶來的威脅和挑戰，2019年起，Facebook 每年都會舉辦「Deepfake 檢測挑戰賽」（Deepfake Detection Challenge，DFDC），同時也與密西根州立大學合作，找出可逆向工程 Deepfake 的方法：找出 A.I. 生成模型留下的「數位指紋」。這概念與英特爾資助的「隱形脈搏」研究有共通處──利用 A.I. 學習各種 Deepfake 偽造模式，然後訓練 A.I. 辨識肉眼不可見的細節，揪出可能經 Deepfake 偽造的影片。
因每個 Deepfake生成的模型都有獨特參數，是 Deepfake工具偽造影片與人臉時的變量，對生成影像的方式與結果產生影響。密西根大學與 Facebook 團隊以汽車比喻：「有點像根據聲音辨識是哪台汽車開過，即使從未聽過汽車資訊。」
儘管目前檢測方式越來越多，準確度也越來越高，但製造虛假影片的趨勢依然沒有得到很好的抑制。因目前最先進技術也很難全面防堵Deepfake技術濫用。
究其原因，其一可能是AI製造虛假內容的工具、材料取得越來越方便，如 DeepNude，只需要一張照片，人人都可以上手。
其二可能是，每天都有很多新技術誕生，現在過濾技術卻遠遠跟不上。
Facebook在2021年 Deepfake大賽，以10萬部Facebook自製影片為測試範圍，參賽者利用演算法分析完影片後，獲得 82.56%準確率，但再拿另一組黑盒測試，準確率下降到 65.18%，代表現存世界過濾演算法的發展還跟不上生成偽造影片的演算法。
目前使用檢測技術仍追不上Deepfake生成技術的進化，甚至會有種「道高一尺、魔高一丈」之感。當前首要任務是，要能引起社會關注，讓更多人投入Deepfake過濾器改進與改善，才能突破困境。
另外，誠如Sensity 公司負責人所說，DeepNude目前還處於法律的灰色地帶。因此，要想關上 Deepfake潘朵拉的魔盒，需要修法懲罰及道德譴責雙管齊下，亦即需要法律約束和人心向善的同步引導。只有人心不造惡，社會才能清明。
微信 
留言列表（69条）
My spouse and I stumbled over here coming from a different website and thought I might as well check things out. I like what I see so now i’m following you. Look forward to looking at your web page for a second time.
I got this web site from my pal who told me regarding this site and now this time I am visiting this website and reading very informative posts at this place.
Every weekend i used to visit this website, as i want enjoyment, since this this site conations truly good funny data too.
I was able to find good info from your blog posts.
Why users still use to read news papers when in this technological world everything is accessible on net?
Im not that much of a online reader to be honest but your blogs really nice, keep it up! I’ll go ahead and bookmark your site to come back later. Cheers
Greetings! I know this is kinda off topic but I was wondering which blog platform are you using for this site? I’m getting fed up of WordPress because I’ve had issues with hackers and I’m looking at options for another platform. I would be great if you could point me in the direction of a good platform.
Pretty nice post. I just stumbled upon your blog and wanted to say that I have really enjoyed browsing your blog posts. In any case I’ll be subscribing to your feed and I hope you write again soon!
We are a group of volunteers and starting a new scheme in our community. Your site provided us with valuable information to work on. You have done an impressive job and our whole community will be grateful to you.
Can you tell us more about this? I’d like to find out more details.
What’s up everyone, it’s my first go to see at this website, and post is in fact fruitful designed for me, keep up posting these posts.
I’m not positive where you are getting your info, however good topic. I needs to spend a while studying more or working out more. Thank you for magnificent information I used to be in search of this information for my mission.
Hi, i think that i saw you visited my weblog so i came to return the favor.I am trying to find things to improve my site!I suppose its ok to use some of your ideas!!
Simply want to say your article is as amazing. The clearness in your post is simply nice and i can assume you are an expert on this subject. Well with your permission allow me to grab your RSS feed to keep up to date with forthcoming post. Thanks a million and please keep up the rewarding work.
Everything is very open with a precise description of the issues. It was really informative. Your website is extremely helpful. Thank you for sharing!
Highly energetic article, I liked that a lot. Will there be a part 2?
I constantly spent my half an hour to read this website’s articles or reviews daily along with a cup of coffee.
Nice post. I used to be checking continuously this blog and I am inspired! Very useful information particularly the last phase 🙂 I maintain such info a lot. I used to be seeking this particular info for a long timelong time. Thank you and good luck.
Informative article, exactly what I wanted to find.