「請嚴懲讓女性遭受痛苦的Deepfake網站與使用者。『Deepfake』是明顯的犯罪。」今年2月，關於Deepfake（AI深度造假）非法色情影片的連署，在韓國青瓦臺國民請願平台，吸引超過39萬人連署。
根據荷蘭網路安全新創公司Deeptrace（現更名為Sensity AI） 2019年的研究報告《Deepfake現狀：前景、威脅與影響》，在全球網路散佈的14678件Deepfake合成影像中，96%是非法色情影片，當中有25%的受害者是K-POP女偶像，僅次於英國。（Deeptrace數據來自全球流量前十大色情網站、Google Search、Github、Youtube等影音平台與論壇）
事實上，打開任一非法色情網站，想要找到以韓國女偶像爲主題的Deepfake影片一點也不難，在某些非法色情網站上，韓國女偶像甚至自成分類，藝人名字羅列一排，任君點選。而且影片數量持續倍增，2020年，Deeptrace追蹤報告顯示，網上散佈的Deepfake影片已達8萬5000件。
「熟人凌辱」 韓團：深度造假色情片，性剝削如N號房
不只女偶像，Deepfake的威脅也從女藝人擴大到一般女性，由於影像更難辨真偽，帶給受害者極大的損失和痛苦，韓國女性團體指控，這類「熟人凌辱」Deepfake的色情影片與N號房的性剝削無異。
年初韓國SBS《想知道真相》節目，訪問兩名受害害者，她們只是再平凡不過的普通人，在SNS分享日常生活，有一天卻收到以自己的臉合成的色情影片。「對方威脅，如果不馬上匯200萬韓元（約新台幣5萬元），就將影片發給熟人，我說要發就發吧，但我無法控制我的手，不停發抖，」受害者A某心有餘悸說，不過她的父親收到訊息仍擔心女兒受害，而交出信用卡號。
跟眼下的台灣一樣，2020年3月以前，韓國法律在應對Deepfake這類新型犯罪，顯得消極且毫無用處。翻開2018年韓國女性律師協會出版的《數位犯罪的處罰及受害者支援方案研究》，報告直指，沒有法律條款可以制裁Deepfake色情影片，《性暴力犯罪處罰法》 只規範「直接拍攝別人的身體本身」，在最近修法之前，連「複製」拍攝物也不受處罰。Deepfake的色情影片是通過「合成」製作，而「合成」更不是拍攝。
換言之，2020年3月之前，Deepfake被害人只能選擇韓國《刑法》《信息通信網法》依散播猥褻物品與損害名譽等迂迴的法律途徑尋求制裁。然而，以上單項罪名至多判處一年以下有期徒刑，或1000萬韓元（約新台幣25萬元）以下罰款。
2019年，韓國在國會推動修法。律師趙恩潔主張，Deepfake的特點是，不顧當事人意願，合成再製的非法色情影片都會向不特定的多數人公開，考量到當事人單方受害，且網路傳播在發佈、展示之後，很難全部刪除，有必要納入性暴力處罰法。
趙恩潔以同年美國維吉尼亞州首次通過的法令為例，維吉尼亞州政府將Deepfake納入反復仇色情範疇，違法有機會判罰最高 12 個月監禁與2500 美元的罰款（約新台幣7萬元），「如果能產生這樣的社會共識，法律完備會帶來很大的幫助。」
以deepfake影片盈利，最高判七年
長年以來，修法在韓國朝野鬥爭、國會無法正常運轉下窒礙難行。但年底N號房事件爆發，全民共憤下，加速修法進程。2020年3月，國會首次通過N號房事件《性暴力犯罪處罰特別法部份修訂法律案》，該法案規定，製作或散佈Deepfake影片將被處以五年以下有期徒刑或五千萬韓元以下的罰款，如涉及盈利目的，最多可判處七年有期徒刑。
不過，韓國國會去年3月針對N號房事件與Deepfake犯罪的第一次修法，並沒有針對「購買、持有」造成網路傳播效應加以懲處，在大韓律師協會與民眾再次請願下，國會隔月底再次通過《性暴力犯罪處罰特別法》、刑法、隱匿犯罪收益等相關修正案，將最低合法性交年齡從13歲提高為16歲，另規定持有、購買、儲存、觀看非法色情影像等行為，將面臨3年以下有期徒刑或是3000萬韓元（約新台幣75萬元）以下的刑罰。
除了修法提高刑量之外，韓國主管網路審查的通信審議委員會（Korea Communication Standards Commission，簡稱KCSC），持續擴大「數位性犯罪支援團」的編制，對Deepfake等非法影片最常流通的Telegram與Discord（遊戲使用者的即時通訊軟體）實施「重點監控」，建立24小時的監測體系。
N號房事件之前，針對海外業者的非法影片連結，審議人員僅能尋求對方合作，沒有刪除理據。
2020年4月韓國政府公布「數位性犯罪根除對策」，確立數位性犯罪物「先刪除後審議」的原則。所謂數位性犯罪物，包含非法拍攝物、通過網路散布的非法色情物、Deepfake非法合成剪輯影像、未經當事人同意散佈的影像等。若經發現，國內企業須立刻刪除，並配合防止流通。海外業者若拒絕合作，審議人員可切斷該URL在韓國國內的連結。今年1月，數位性犯罪支援團就強制切斷、刪除116起案件的連結與影像。
相關防範工作，無法單靠KCSC完成，需要泛政府部門的的合作。KCSC早前與韓國通訊傳播委員會、性別平等與家庭部、警察廳共同簽署「共同應對數位性犯罪工作協定」，2020年12月開始，警方也針對Deepfake非法合成影片在Discord與暗網的流通，實施「集中管制」，並成立數位性犯罪特別調查本部。
今年2月，釜山警察廳以違反性暴力犯罪處罰法逮捕六名十歲至二十歲的青少年，他們為了「想賺些零用錢」，相繼合成150多名K-POP偶偶像歌手上千張照片，通過推特、Discord兜售，分90次共收取150萬韓元（約新台幣3萬8千元）。
海外部分，KCSC也與國際負責刪除網上兒童與青少年淫穢影像的國際網路熱線協會（INHOPE）、失蹤虐待兒童防治中心（NCMEC）與Google合作，並在今年1月成立國際合作檢察團。
為避免個人信息透露造成二次傷害或威脅，韓國政府亦修改規定，受害者能申請變更身份證號碼，且處理時程從原來的三個月縮短為三週。
儘管網路性犯罪跨境偵查困難，監測面臨涉及隱私的爭議，民眾也才會再於青瓦台請願平台強烈表達訴求，但N號房事件後，韓國政府已展現修法、擴編等對新型性犯罪的重視。這場傷害可能隨時擴散又必須重新定義真假的攻防戰中，只能一邊狙擊、一邊修正，容不得行政立法部門的推拖。
在反制Deepfake的路上，學界與民間業者也沒有缺席。素有「韓國MIT」之稱的韓國科學技術學院KAIST，電機系教授李興奎所帶領的研究團隊上月底發表第一款手機就能探測Deepfake影片與照片的App「KaiCatch」，只要上傳任何疑似Deepfake的影片、圖片，系統便能辨別是否假造，並以顏色標示出可疑部分，目前只限Android平台。
KAIST採用的AI探測技術，是分析臉部可能產生細微變形、扭曲的異常信號痕跡，分析結果為0到100%的數值，數字越高，出現Deepfake假造影像的概率就越高。
韓女大生創業抵擋deepfake...「如同阻止貨車朝我撞來」
無獨有偶，去年在韓國2020新創敘事競賽中拿到大獎的「DEEP’t」，背後是比熱門韓劇《Start Up》還熱血的故事。五位梨花大學網路安全系第一屆的女大學生，有感於Deepfake的性犯罪氾濫，以此為畢業製作的專題。
在書面答覆媒體創業動機時，24歲正在軍隊服役的白賢貞提到，「偵測Deepfake影像真偽的系統，對男性來說，可能只是繫著安全帶開在平坦的道路上，但對我或其他女性來說，已如同必須要阻止貨車朝我駛來，是必要的生存技術，當然只能馬上製作了。」
DEEP’t開發的系統可根據不同框架判斷影像，從而分辨是否為Deepfake，並分成一般民眾使用版與企業版。在新創競賽大會上，DEEP’t的探測速度比其他服務快2倍，成功率達99.9%，再加上可以應對人工智能攻擊，因而備受關注。
但她們沒有選擇接受外部投資，對外曝光的時程也延後，「比起眼前的利益，提高系統的準確度對我們來說更重要...我們希望加強技術，讓系統更準確地探測數位性犯罪的Deepfake影片。 」
確實，Deepfake與探測Deepfake的相關技術的商機正在無限延伸。四月初，社群媒體基金會（Community Media Foundation）舉辦「確認真相Fact Check」一系列論壇，
AI新創CYETHIC與真相確認網、警政廳合作，提供舉報、辨別Deepfake的服務系統。另一家dob Studio，則走到極致。公司原來只是想改善被惡意利用於數位性犯罪的Deepfake，後來乾脆在Youtube上利用創造虛擬人物「Rui」。
取自Youtube RuiCovery
假設有一天，你追蹤多時的正妹Youtuber，突然告訴大家，除了頸部以下的身體、頭髮與聲音部分是真的，她的臉其實是「數位整形」──透過深度學習，將統計數據中最受歡迎面容組合，以人工智慧方式動態合成在本人的影片臉譜上，你能接受嗎？
當時，大批韓國網友留言不可置信，因為影片中Rui，一直以來唱歌、跳舞、表情豐富，看不出是假的。但Rui本人卻表示，如此不但可以降低她原來對自己面容的不自信，降低唱歌跳舞時面對的壓力，也讓她保留隱私，像「另一個自我」，呼應近兩年韓國興起的「副角」（부캐, side character）風潮，只是「副角」原來是電視節目主持人鼓勵協槓另一種職業、角色，而Rui是在虛擬空間創造另一個自我。
dob正在用Deepfake的技術，提供女性「第二人生」的服務。對於Deepfake的未來，dob代表吳濟旭很樂觀，「P2P服務當初也是爲了便於個人共享文件而開發，卻一度成為傳播色情淫穢的手段，如果想將新技術發揮到極致，就必須制定限制和政策...Deepfake 現在也在經歷着成長痛，業界相關人士應該為讓人們生活便利更加努力。」
《鏡週刊》會員制已經啟動，我們邀您在無廣告的舒適環境下，暢讀鏡週刊人物組的優質深度報導。本刊獨家調查《臉被偷走之後》系列報導因攸關重大公共利益，系列文章全文公開。點我加入鏡會員 👉 https://reurl.cc/qmoLK3
★ 《鏡週刊》關心您：若自身或旁人遭受身體虐待、精神虐待、性侵害、性騷擾，請立刻撥打110報案，再尋求113專線，求助專業社工人員。
