去年7月間,小玉在推特上提供眾多「AI 換臉」色情試看片,利用 AI Deepfake技術,將網紅的臉「移植」到色情片的 AV 女優身上,製作方提供約 30 秒的試看片作為宣傳,網友若想看完整版本,則須付費成為Telegram聊天群組會員,由於小玉還會不定期提供各種「加值服務」,例如票選最想變臉的名人,隨後他再加工製片,因此,讓越來越多人加入群組,他的荷包也賺得滿滿。
警方前天登門逮捕小玉時,其實上月他才在群組向4千多名會員致謝道:「本次一週年紀念活動,正式在狂歡中結束,再次感謝大家一年來的支持,再相對嚴峻的環境,還能繼續製作影片,心願不用大,實際就好,只能持續維持本群組正常運作即可⋯⋯」不過,小玉賊星該敗,渾然不知已遭檢警早盯上多時。
其實換臉色情片成為新型態的數位性暴力犯罪,遍及世界各地。早在2017年間,就有人張貼利用 AI 技術偽造的好萊塢女星色情片,後來越來越多人掌握該技術,網路甚至有免費軟體可使用,就算沒有電腦工程背景的人也可以獨立製作合成假影片。
法界人士指出,無論將網紅換臉至色情片、或是散佈分享該影片,都已經觸犯《刑法》第 310 條妨害名譽罪或散佈猥褻物品罪。另外,被害人也可依《民法》求償,法務部也將在一個月內提出相關法律修改意見。