用換臉軟體製作女網紅不雅影片 百萬YouTuber「小玉」遭警逮捕

圖/刑事局提供
17日刑事局揭發網紅「小玉」等3人遭涉嫌利用AI Deepfake換臉技術,製作不雅影片販售得利,將3人以涉嫌散播猥褻物及妨害名譽等罪刑逮捕,並帶回警局偵訊。受害者之一高雄市議員黃捷表示,會透過法律程序提告。

在YouTube上擁有逾百萬人訂閱、綽號「小玉」的朱玉宸,今年4月突宣布引退。17日,小玉遭刑事局揭發涉嫌利用AI Deepfake換臉技術,將數百名網紅臉部移植到不雅影片的女主角上,並製成色情片販售得利,警方估計不法獲利高達千萬元以上。刑事局將小玉等3人以涉嫌散播猥褻物及妨害名譽等罪刑逮捕,並帶回警局偵訊。

刑事局自去年7月起,執行網路偵蒐時發現,有數名網紅之不雅影片被放到網路上流傳。警方求證後發現,影片皆並非本人所拍攝,而是有人透過AI軟體的換臉技術,將藝人或網紅的臉部圖像,移植到色情片的女主角上,再製成不雅影片販售得利,並散播到「台灣網紅挖面」推特粉絲團,受害者包括網紅白癡公主、奎丁,以及政治人物議員黃捷、立委高嘉瑜等數百人,不法獲利高達千萬元以上。

警方經偵查發現,經營「台灣網紅挖面」推特粉絲團為主嫌小玉。警方說,網友支付新台幣數百元不等之會員費後,可以加入一個私密聊天群組,之後便可以即時線上瀏覽完整版的網紅換臉色情片。

該粉絲團又會在私密聊天室不時舉辦「票選」或「集資」活動,選出某位知名網紅,再由小玉等人製作該網紅的換臉不雅影片,再上傳販售。

圖/刑事局提供

刑事局17日手持搜索票,前往小玉的住處與工作室執行搜索,並拘捕小玉與2名共犯,查扣現金458萬5000元、金融帳戶存簿13本、電腦2台、硬碟2顆、手機2支、BENZ自小客車1台等證物,並由法院裁定扣押不法金流共3筆。

全案經警詢後,依涉嫌散播猥褻物與妨害名譽等罪解送新北地方檢察署偵辦。警方也補充,如為本案遭竊取肖像權作為不雅影片之被害人欲提告,可向刑事警察局報案,以助後續偵查與刑事賠償事宜。

圖/刑事局提供

受害人之一的黃捷在臉書上表示,「這種新型態的性犯罪實在防不勝防,也讓女性朋友深陷恐懼,你不知道何時你的臉突然會變成A片女主角。」她又補充,自己除了會要求警政單位嚴加查辦外,也會透過法律程序提告。

圖/截自黃捷臉書

網紅奎丁去年10月曾製作影片,討論自己被人換臉製成不雅影片,今天得悉背後主嫌為小玉後,也在臉書限時動態說,自己一直很欣賞小玉的影片,對他感到失望。

圖/截自奎丁臉書

刑事局呼籲,AI Deepfake技術是透過人工智慧與模型重建追蹤等方式,將他人圖像的表情替換到指定影片上,而達成影片特效之製作,若不當使用合成於色情影片上,卻會造成網路性暴力,應避免以身試法。

【延伸閱讀】數位專題:私密照外流之痛:誰讓我淪為「國家猥褻物」

相關新聞