The following two tabs change content below.
Readmoo編輯團隊

Readmoo編輯團隊

閱讀最前線編輯群。

文/妮娜.敘克;譯/林曉欽

「AI色情影片現蹤,我們完了。」

二○一七年十二月十一日,「主機板」(Motherboard)網站刊載了這樣一篇文章。8作者珊曼莎.科爾(Samantha Cole)率先向世界揭發深度造假一事。忠於「網路守則」(Rules of the Internet)所述,色情影片正是深度造假的起源。

「網路規則」是一份協定和公約,由一群自稱「匿名者」(Anonymous)[2]的網路駭客擬定。現在,「網路守則」已成網路傳說,衍生出眾多不同草案、版本和異議,試圖掌握網路生態的精髓。儘管如此,幾乎每個人都同意「守則第三十四條」:「有網路就有色情影片,沒有例外。」可想而知,人工智慧的產物也少不了它。

二○一七年十一月二日,一位 Reddit 匿名使用者,代號為 Deepfakes ── 結合「造假」(fake)和深度學習(deep learning)── 建立了子論壇「deepfakes」,用於張貼使用 AI 技術偽造的好萊塢女星色情片。影片使用開放原始碼製作,只要具備深度學習演算法知識,任何人都能效法。散播名人造假(及外流)色情片堪稱是網路世界最風行的消遣,但 AI 的產物格外引人注目。

正如珊曼莎.科爾日後在 TedX Talk 演講中所述,這與以往的色情片不同。AI 生成的人物「能夠移動、微笑、蹙眉和性交。」9 這不僅僅是用 Photoshop 把安潔莉娜.裘莉(Angelina Jolie)的臉移花接木到 A 片女演員的裸體那麼簡單。

二○二○年初,我致電珊曼莎,和她談談二○一七年的那篇獨家新聞。她告訴我:「我的工作就是直搗網路的暗處。」《主機板》是 Vice Media 集團旗下專責報導科學與科技發展的媒體,身為該網站的作家,珊曼莎關注的是網路上最不為人知的角落。反烏托邦的 AI 應用,例如深度造假、YouTube 爭議影片及可疑的網路工具,正是珊曼莎關注的焦點。

她向我描述自己在 Reddit 網站「閒逛」時,發現 deepfakes 登上了熱門看板。珊曼莎接著說:「事情就發生在我們眼前。」和我一樣,珊曼莎立刻對這項科技被濫用的可能性感到震驚。「假如連一個 Reddit 使用者都做得到,又要如何阻止人們做出同樣的事?」她開始思考這個問題,並傳訊息給影片製作者 Deepfakes;對方同意在匿名的前提下和珊曼莎談談。Deepfakes 表示,他自認不是工程師或專家,只是「對機器學習感興趣的人」。珊曼莎在電話上沉默了一下:「我們仍然不知道他的真實身分,也不知道他從事什麼工作。」Deepfakes 描述自己發現了一種「聰明的方法」,利用開源 AI 工具,將名人的臉「置換」到色情片明星的身體上。

一如電影《愛爾蘭人》的例子,直到二○一六年,這類媒體後製還是屬於特效專家的領域。製作這類影片需要時間、技術和金錢 ── 入行門檻極高。不過,一旦使用 TensorFlow、Keras 等開源機器學習平台,以上門檻對 Deepfakes 就不復存在了。TensorFlow 由 Google 大腦專案(Google Brain)開發,Keras 則能讓使用者快速測試深度學習的成效。站在 AI 研究領域的巨人肩膀上,Deepfakes 創造了自己的科學怪物:好萊塢女演員蓋兒.加朵(Gal Gadot)的亂倫色情片。一如珊曼莎當時於文中所述:

網路上有蓋兒.加朵與繼兄發生性關係的影片,但影片裡不是蓋兒.加朵本人的身體,也不是她的臉,只是用了演算法「換臉」,讓早已流傳於網路上的亂倫色情片,看起來就像由加朵本人演出。

他是怎麼做到的?透過 Google 圖片搜尋、圖庫和 YouTube,Deepfakes 建立了加朵的數據集,以此訓練 AI 演算法,讓它學會如何「置換」加朵的臉 ── 以影格(frame)為單位,置入既有的色情片。只要你仔細檢視 Deepfakes 的作品,不出幾秒就能察覺事有蹊蹺。影片中會出現雜訊,加朵的嘴型有時並未與她說的話同步;口交時,她的頭部附近出現了方格。但如果沒有細看,的確會相信片中女主角是蓋兒.加朵本人。

Deepfakes 在 Reddit 公開分享自己的技術後,立刻有人跟進製作影片。名人界無一倖免。最先成為目標的苦主有兩位:一位是童星出身的知名女演員梅西.威廉斯(Maisie Williams),她以《冰與火之歌:權力遊戲》(Game of Thrones)的艾莉亞.史塔克(Arya Stark)一角而聞名;另一位則是《哈利波特》的艾瑪.華森(Emma Watson)。科爾撰文揭露後,這些 Reddit 用戶的行徑引起了公憤。幾週內,Reddit 以「包含未經同意製作的成人影片」為由,關閉了討論板。始作俑者 Deepfakes 就此消聲匿跡,但他早已公開分享了最主要的「深度造假」程式碼。

熱衷此道者掌握了他開發的「換臉」技術。網路上很快開始流傳新的工具和免費軟體,協助他人製作自己的深度造假影片。其中最知名的是軟體平台「深度換臉實驗 DeepFaceLab 和 Face Swap。兩個平台都由匿名工程師經營,目的是提供免費資源,讓任何人都能獨立製作合成媒體。使用者雖然需要具備一定程度的技術知識,但憑藉耐心和技巧,成品的水準也相當可期。上述平台讓多位 YouTuber 聲名大噪,例如 iFake、Ctrl Shift Face 以及 Shamook。為了製造笑料,他們使用免費軟體置換好萊塢大片中的演員。

舉例來說,Ctrl Shift Face 以席維斯.史特龍(Sylvester Stallone)的臉取代電影《小鬼當家》(Home Alone)的麥考利.克金(Macaulay Culkin),再將片名改為《史特龍當家》(Home Stallone)。10這些影片非常有趣,YouTube 瀏覽次數更是突破百萬。

另外,網路上也能找到許多好萊塢巨星尼可拉斯.凱吉的片段,這些是屬於早期的深度造假影片。由於凱吉偶有過於誇張的演技,讓他成為網路迷因(meme)的主角,甚至帶起一股風潮 ── 「把尼可拉斯.凱吉的臉放進所有電影」。名為DerpFakes 的 YouTuber 推出了「尼可拉斯.凱吉終極合輯」(Nic Cage Mega Mix),無論《真善美》(The Sound of Music)或《鬥陣俱樂部》(Fight Club),都能看到凱吉的換臉片段。11早期的深度造假影片並無惡意,往往充滿趣味,但這類影片只占了少數。時至今日,換臉技術廣泛用於製造色情片,而且是在影片當事人毫不知情的情況下。

迎合(男性)最狂野的幻想

深度造假色情片在 Reddit 現蹤後,已發展成獨立的生態系統。與 DeepTrace 公司談過之後,我對此有了更深入的了解。DeepTrace 總部設於荷蘭阿姆斯特丹,二○一八年創立,致力於研究深度造假持續進化的可能與威脅;這間私人公司專門保護組織和個人免於受到 AI 合成媒體傷害,也是這個產業的先驅,一舉一動都受到業界關注。

二○一九下半年,DeepTrace 公司發表了一份報告,公開深度造假的現況。調查結果發現,深度造假影片的數量快速增加,部分原因是「相關工具和服務持續商品化,降低非專業人士製作深度造假影片的門檻。」12據統計,至二○一九年九月為止,網路上已有將近一萬五千部深度造假影片。

DeepTrace 公司創辦人喬奇歐.派翠尼(Giorgio Patrini)採訪時向我證實,深度造假影片(色情片及其他類型)的數量在二○二○年後仍會大幅成長;但截至目前為止,造假影片幾乎都屬於同一種類型。DeepTrace 發現,深度造假影片中高達九成六都是色情片,當事人卻對此一無所知。這意味著這類影片有著極大的市場。第一個深度造假色情片網站於二○一八年二月註冊。現在,全球前四大深度造假色情片網站的瀏覽次數已超過一億三千四百萬次。

我曾看過其中一個網站 ── 在 Google上 很容易就能找到 ── 該網站自稱是「最佳深度造假色情片源」。只要按幾個鍵,就能觀看所有影片,而且完全免費。該網站首頁的歡迎訊息如下:

色情片任君挑選。性虐支配、戀物癖、戀足癖……肛交、口交、拳交……青少年色情影片,你想得到的,這裡都看得到!想像一下 ── 以上色情片都使用換臉技術,將明星的臉置入影片,看起來就像她或他正在性交!13

網站接著吹噓深度造假色情影片的逼真程度,因為影片能夠「細膩捕捉明星臉部的情緒和表情」。透過「艾瑪.華森替粉絲口交、史嘉蕾.喬韓森(Scarlett Ingrid Johansson)肛交 A 片,或是梅西.威廉斯第一次在鏡頭前做愛的造假影片」,任何妄想都能得到滿足。深度造假科技甚至能滿足最狂野、「過去無法實現的幻想」 ── 也就是觀眾對窺視公眾人物的「渴望」,例如「伊凡卡.川普(Ivanka Trump)或蜜雪兒.歐巴馬(Michelle Obama)在鏡頭前玩性虐(BDSM),比爾.柯林頓(Bill Clinton)則在一旁觀賞。」

深度造假色情片無疑也是一種性別化現象(gendered phenomenon)。每次造訪新的深度造假色情網站,我都會瀏覽上頭不下數百部影片,卻從來沒見過任何一位男性名人 ── 沒有布萊德.彼特(Brad Pitt)、喬治.克隆尼(George Clooney),也看不到強尼.戴普(Johnny Depp)。

我詢問珊曼莎.科爾在調查取材期間,是否看過任何以男性為對象的深度造假色情片,她直率地回答:「這並不常見,答案是沒有。」但在同樣的網站上,以女性名人為對象的深度造假色情片卻動輒數百部 ── 這數字毫不誇張。不論金髮、棕髮或紅髮,來自世界各國、各族群,你想得到的女性公眾人物應有盡有。影片數量之多,網站甚至能再分類為「肛交」、「3P」、「自慰」等。這些色情影片都是偽造的,當事人毫不知情,網站也毫不避諱這些影片的來歷;許多影片甚至還標明了創作者。

正如最初的蓋兒.加朵假 A 片,許多深度造假色情網站的影片依然看得出破綻,但技術已愈臻成熟。無論如何,影片的品質並非重點。所有未經當事人同意製作的色情片,無論是否使用深度造假技術、擬真程度是好是壞,對受害者而言,都是駭人聽聞、難堪且踐踏尊嚴的行為。

我們不知道受害者該如何保護自己,即使是擁有資源的富人亦是如此,例如好萊塢片酬最高的女星史嘉蕾.喬韓森。在二○一八年的一次採訪中,喬韓森告訴《華盛頓郵報》(Washington Post),她和自己的團隊沒有任何實質對策,畢竟從網路上移除這類影片是不可能的。「很遺憾,這種情況我經歷了太多次,」她說:「關於肖像權,每個國家都有自己的法律規範。即使能在美國境內採取法律行動,關閉侵權的網站,同樣的法規卻可能不適用於德國。」喬韓森相當沮喪,認為那是「徒勞無功的行為」,也提出警告:她認為很快人人都會成為目標,因為網路「是一個巨大的黑暗蟲洞,終將吞噬自己。」14

註釋
8 Samantha Cole, ‘AI-assisted fake porn is here and we’re all fucked’, vice.com, 11 December 2017, www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
9 www.youtube.com/watch?v=FqzE6NOTM0g
10 www.youtube.com/watch?v=2svOtXaD3gg&t=194s
11 www.youtube.com/watch?v=_OqMkZNHWPo&feature=emb_title
12 Giorgio Patrini, ‘Mapping the deepfake landscape’, deeptracelabs.com, 7 October 2019, https://deeptracelabs.com/mapping-the-deepfake-landscape/
13 www.adultdeepfakes.com
14 Drew Harwell, ‘Scarlett Johansson on fake AI-generated sex videos: “Nothing can stop someone from cutting and pasting my image”’, Washington Post, 31 December 2018, 參見:www.washingtonpost.com/technology/2018/12/31/scarlett-johansson-fakeai-generated-sex-videos-nothing-can-stop-someone-cutting-pasting-my-image/

[2]編按:匿名者是以共同信念組成的網路團體,他們否認自己是一個組織、也不屬於任何企業或政黨,標榜自由、匿名和反對領袖。重要行動包括支持維基解密、反對兒童色情、攻擊伊斯蘭國、抨擊川普、聲援台灣等。

※ 本文摘自《深度造假》,原篇名為〈守則第三十四條〉,立即前往試讀►►►

  • 用Line傳送