網紅小玉DeepFake換臉謎片 YouTube官方宣布:無限期停止營利資格

(圖/刑事局提供)
百萬YouTuber網紅小玉涉嫌利用AI DeepFake(深偽)技術「換臉」知名女性公眾人物的情色影片牟利千萬,受害者包含高嘉瑜、黃捷等政治人物,影音平台YouTube今(3)日發布聲明表示,由於小玉違反YouTube創作者責任政策,將無限期停止小玉頻道的營利資格。

小玉的YouTube頻道過去以整人與挑戰系列為經營主題,累積有140萬訂閱數,2020年底曾引發高度爭議的「母乳事件」,今年4月宣告退出經營YouTube,不再更新。

YouTube:無限期停止小玉頻道營利資格

即便小玉的頻道已停更許久,但YouTube今日打破沉默,對小玉觸法行徑發布聲明:

由於小玉違反了 YouTube 創作者責任政策,我們已經無限期停止他頻道的營利資格。如果我們發現創作者在平台以外的行為傷害了YouTube的使用者、社群、員工或生態圈,我們會採取行動保護YouTube社群。在此案例中,創作者使用了DeepFake技術傳播色情內容。

事實上,小玉使用AI DeepFake換臉技術並非首次;2020年總統大選後,小玉亦曾使用該技術換臉參選人韓國瑜的臉在螢幕前「破口大罵」,他表示「只花30分鐘和一個配音員,我可以讓韓國瑜講出任何我想要他講的話」,他並解釋,用意在提醒民眾防範假新聞。

上月小玉遭刑事局破獲以DeepFake技術換臉女性到情色影片上,然因無論是以妨害名譽或散布猥褻物品等罪,在司法流程上都不適用《性侵害犯罪防治法》、《性騷擾防治法》等保護被害人的措施,同時因犯罪成本與造成被害人的身心痛苦不成比例,引起法界高度關注。內政部長徐國勇3日出席立法院備詢再度對媒體表示,法務部會召集相關單位參與討論,強調「一定會立法」。

停止頻道營利資格 小玉非首例

小玉並非第一位因爭議行為,導致頻道遭停止營利的創作者。2017年底,美國Youtuber「Logan Paul」,到日本有「自殺森林」之稱的青木原樹海拍攝,影片中意外拍攝到自殺民眾遺體,Logan Paul態度輕蔑、嘲諷,引發大量網民不滿。Logan Paul雖然下架影片,企圖道歉滅火,但仍無法止住罵聲。

2018年2月,YouTube官方於推特發表聲明,將暫時關閉Logan Paul頻道的營利資格,並結束所有商業合作。儘管如此,2週後YouTube恢復Logan Paul的廣告,但隨後Logan Paul又上傳一支電擊死老鼠的影片,YouTube決定撤下Logan Paul頻道上的所有廣告以作懲處。

事件後,YouTube提高了頻道的營利標準,雖沒有直接證實與Logan Paul事件相關,但YouTube承諾將加強內容違規監督、擴增審查人力。Logan Paul爭議事件當時,頻道已有超過1,560萬訂閱的Logan Paul,目前訂閱數增加至2,320萬,近1年影片皆有600萬以上觀看數。

九合一選戰解析

相關新聞