Deepfake、Telegram、Metaverse — 全新世界掌握在「誰」手上

我們所經驗到的科學與科幻，已經不是飛天車或自動綁鞋帶的球鞋如此直觀的未來想像，而是科技帶來從制度到日常生活，乃至於整個社會文化的大幅改變；特別是從最早的計算機到現在的AI，當代科技帶給我們得以不受限於既有時空限制的新世界：網路。

資通訊科技（ICT）帶給我們生活上的便利（以及這些便利所帶來的額外負擔）外，也帶來了一個逐步成形的網路世界，正如同我們以及我們的祖先所存活到今日的線下世界一般，線上的世界同樣開始產生了屬於它的體制、社群、象徵、行動及關於這些行動的命名及稱呼，甚至是僅屬於線上的貨幣。

社群網路對於自我建構的重要意義 

在過往，科技雖然同樣會透過影響人類的生活處境進而改變人類的文化，例如，工業的發展讓都會區的工廠林立，也讓人民從農村大幅湧入都市，造成了都市文化，也改變了家庭的型態。

然而，網路的改變尤為特別，其雖擁有物質或物理上的改變（例如遠距工作成為可能），可「網路」對於人在「意義層面」的改變更為強大，特別是社群媒體的出現，影響了人如何展演自我，如何意識到自我，以及如何將自己與他人歸屬於相同與不同群體，產成我群與界線。

這個改變當然有世代的差異，網路空間往往被認定是青少年的空間，特別是社群媒體，這幾年在討論社群媒體帶來的心理影響、成癮或沉迷時，也多半都聚焦在青少年使用之上，青少年的公共領域似乎都集中於社群網路的討論區塊或者是網路佈告欄的文章當中，被傳統媒體看見時，就是發生網路霸凌、詐騙的時候。

時至今日，許多當時的青少年，現在已經變成了「大人」，但是他們對於公共議題的討論仍然停留在這些網路論壇或是社群網路，而同時，當代的青少年也開始遊牧於網路世界之中，找到更新且更屬於他們的社群 1 。

數據與社會研究所創辦人的danah boyd在其書《鍵盤參與時代來了！》中提到了一個重點，那就是青少年——現在已是「我們」——並不是對社群媒體成癮，而是對在社群媒體上的「人」成癮，因為有「人」聚集在社群網路上，形成了一個可以讓他們展現自我並且能夠獲得歸屬的情境，就如同我們傳統在線下社會中會形成的任何一種社群或團體，例如高爾夫球俱樂部、學校社團、慈濟等，這個情境是社會的，他們共享了類似的評價系統、價值觀、甚至有時候是與其他社群截然不同的語言。

今日觀之，我們許多人無論是職業生活或是社交生活，都大幅仰賴社群媒體，而在線上生活中的自我展演，像是分享生活、結交共同興趣的朋友、購物、討論生活煩惱等，過往我們習慣由家人、親族、或是現實生活朋友所扮演的支持系統，現在都轉移到線上社群。

也因此，我們在思考網路上的傷害乃至於犯罪時，若還是習慣性地以這個行為是否在線下世界實際發生，來作為是否對於被行為人有害的判準，是非常過時且不切實際的想法。因為網路世界本身就已經成為了生活在其中的那些人自我存在的社會，而那些過往學者或是成人認為是「虛假」的網路身分，就是會受到傷害的真實主體。

我們在思考網路上的傷害乃至於犯罪時，若還是習慣性地以這個行為是否在線下世界實際發生，來作為是否對於被行為人有害的判準，是非常過時且不切實際的想法。

看見Deepfake的「真實傷害」

我們必須要奠基於此，也就是奠基於網路社群乃至於網路世界的社會性，來看待奠基於AI的Deepfake技術換臉的私密影像。最近因網紅小玉被控涉嫌以此方式來製作相關影片，提供群組購買跟點餐，媒體報導的受害者多半為名人，但我們從新聞中的截圖或是過往的報導也可以看出，其中也包含了許多非名人以及購買者的熟人。

女性名人的指控當然更能獲得新聞關注度與點閱率，但相較之下，女明星或網紅，他們往往更有能力與管道，去強調與澄清影片中的人不是自己——但即使是如此，他們仍然深感困擾，其中也有人提到自己為了害怕被報復而不敢發聲、認為形象建立起來困難而一步影片就可以毀掉——那就可想而知，被新聞與大眾忽略的平民百姓，他們會面臨什麼樣的社會性打擊。

Deepfake與過往的改圖或修圖截然不同，因為他的目的就是真假難辨，而在技術上也已經可以達成，同時，透過AI學習，這個技術只會越發成熟，越真假難辨。倘若今天我們無法區分真假，無論這件事情是否曾經發生過，它也會在整個實體社會網絡中產生「曾經發生過」的類似後果，且當這樣的技術與既存於網路的「社會」產生連結，對於個體的影響是更為直接且具體的。

大家可以思考一下，就以我自己來舉例，如果今天出現一個我自己「樂於被性侵」的影片出現，然後標題寫著「女性主義作家蔡宜文私下的樣子」，我可能尚能出來澄清，大家還會認為這是藉由Deepfake技術做出來的。

但如果這支影片是由我的前任伴侶以「揭密」的方式公開呢？或者他甚至不用公開，而是以一種耳語的方式流傳，藉此來貶低我在公開領域當中所有關於女性主義與性別的論理呢？這件事是否真的發生完全不重要，重點是，其社會性的用途已經達成了：降低一個女人說話的可信度，甚至，他可以去威脅、恐嚇使女性在網路空間中噤聲，或變得小心翼翼。

而且我們可以想像，越是缺乏資源的女性，例如貧窮女性、青少女，或是已經繼承其他社會汙名的女性，例如女同志、單親等，他們越容易受到換臉性剝削的威脅，像是在韓國已經出現案例是女性被合成性愛影像後，以散播為要脅來恐嚇取財等。

所以，透過Deepfake換臉的性影像完全不是許多人認為的「小事」——沒有造成實際傷害又或者僅僅只是這群人的嗜好——相反地，這是真實存在的傷害。

我們必須從網路社群乃至於網路世界的社會性，來看待奠基於AI的Deepfake技術換臉的私密影像。

技術要適應於社會總是需要陣痛期，但痛的是誰？

當面對新的科技時，許多人常常會說「技術本身是沒有問題的，問題在於用那個技術的人是誰」，我並不反對這句話，但我認為他講的並不完整，重點從來也不是誰在用這些科技，而是誰「擁有」這個技術，並且持續被鼓勵去使用這個技術遂行他們的權力。

從過往的歷史來看，AI並不會因為Deepfake受到質疑而有所退卻，甚至Deepfake技術本身也不會因為換臉的性剝削案件而因此發展受限，但當科技持續往前走的同時，我們要思考的是，誰總是掌握了技術的使用權，誰總是受害？

N號房事件中，我們看到Telegram的反追蹤技術從一個抵抗社會的利器變成集體性剝削、強暴威脅女性與女童的重要武器，而從Deepfake技術我們看到的也同樣，是對於女性社會性的毀滅與打擊，我們必須要看到，技術所提供的福祉不是性別中立的，而它所帶來的災厄更不是，我們必須要把這件事放在內心，以此去看待未來每一個可能影響我們生活的科技突破。

這幾天另外一個熱門話題是Facebook總裁Mark Zuckerberg將母公司名稱改名為Meta，這是他接下來要建構整合的虛擬實境世界Metaverse策略的一環。過往，Facebook、Instagram在命名上還需要Book（書）和Telegram（電報）等線下實有的存在作為象徵來讓人理解「這是什麼」，今日，無論是Meta或Metaverse在言語上都已經不需要一個讓常民理解的象徵物，而且即使如此，我們也能理解其所指涉的為何。

經歷長時間疫情後，人們已經越來越習慣線下生活的隔離與線上世界的連帶，我們終於不再需要對照線下世界的物來認知線上世界。而網路所生產出來的物，也不再需要藉由實際存在的物而生其義。

隨著技術的演進，各科技公司龍頭對「元宇宙」的嘗試，讓我們看到，未來社群媒體與網路已經不僅僅是自我展演的場域，而是一個共享、持久並且穩定存在、整合了我們網路上各種層面的虛擬實境，我們在《一級玩家》、《夏日大作戰》所看到的綠洲與OZ，可能成為現實。

當這件事情被實現，元宇宙不僅創造出一個虛擬的世界，更是創造出整套生產與詮釋意義的系統，也就是社會本身，而這個社會，不再需要對照於現下的社會而生，甚至可能不再受限於國家的管制，包括國界與法律。

這些已經不是科幻電影中的場景，而是正在發生的未來，我並非對科技抱持全然悲觀的想法，我其實相信人類最終可以掌握並讓這些科技為人所用。人們總會使用陣痛期來描述新的技術或是社會制度可能會帶來的「短暫苦果」，只要這段時間過去了便會有美好降臨，但問題是，痛的人是誰？享受美好結果的人又是誰？

陣痛這個詞不僅譬喻了苦難後會帶來的美好，也回答了這個問題：在生產中，需要承擔陣痛的，通常是女人。

《 原文出處 :  鳴人堂  Deepfake、Telegram、Metaverse —全新世界掌握在「誰」手上》

[1] 當然這個在社群媒體上的情境，與線下生活同樣有關聯，例如danah boyd提到，因為法規限制跟大多數公共空間都商業或私營的關係，以前那種放學學生在外面可以玩到天黑才回家的場所青少年能夠使用的公共空間越來越少，加上教養觀念的改變，即使現在治安比起過往還好，但父母對於子女在安全上的擔憂是越來越增加，所以對於子女外出的限制也變多，也因此青少年要能夠去享受非網路空間的公共空間，反而成本是更高的。