網紅小玉用AI換臉技術製不雅影片 上百人成數位性暴力受害者

刑事局網路偵蒐發現,有不肖人士涉嫌透過AI換臉技術,移植藝人或是網紅的臉部圖像,製作成色情影片,再販售牟利,多達上百人受害,包括民進黨立委高嘉瑜、高雄市議員黃捷等人,也都成了數位性暴力的受害者。警方循線追查,發現涉案的主嫌是26歲的網紅「小玉」,昨天就將人拘提到案,而受害者之一黃捷則回應,不排除會走法律途徑提告。

高雄市議員黃捷表示,「警方終於抓到主謀了,竟然是網紅小玉,我非常、非常的震驚,因為小玉是一個擁有100多萬粉絲的YouTuber,那他的受眾非常的廣,很有影響力,甚至很多年輕人都會學習他的行為,可是他卻做出這種踐踏女性尊嚴,然後欺負女性的方式,來牟取暴利。」

刑事局偵查第四大隊副大隊長柯志仁説,「DeepFace透過人工智慧,以模型重建追蹤技術,將他人的圖片表情,可以替換到指定的影片上面,而達成換臉的特效,倘若不當的使用,在合成於色情影片上面,則容易在網路上,造成性暴力的情形發生。」

警方指出,小玉等3人、會先從網路擷取素材,再變更臉部圖像,後製完成後、就利用社群軟體、網路宣傳,吸引民眾付費、加入會員,初估不法所得破千萬。

而小玉等人,被警方依涉犯「妨害名譽」等罪嫌,移送地檢署,檢複訊後,小玉被諭令50萬元交保,另一位網紅「笑笑」則被請回。

相關新聞