AI生成兒童性虐待影片增3倍 英網路基金會籲各國立法防範

長期致力於打擊「兒童性虐待影像」散播的英國網路基金會警告,隨著AI技術日益成熟,這類影像的散播速度也大幅加快。基金會在接受公視專訪時表示,AI生成的兒童性虐待影片在去(2024)年激增3倍,並被用於威脅現實生活中的孩童安全。這樣的情況,也促使英國成為全球第1個,針對禁止AI生成兒童性虐待影像進行立法的國家。

英國警方去年底公布這位戀童癖男子的自白,震驚了社會。

罪犯尼爾森提及,「我承認有些兒童對我有性吸引力,我就這樣跌入了一個絕望與極度醜惡行為的深淵,事情不斷惡化。」

這位男子偷拍真實兒童的影像,再以電腦生成為性虐待畫面,且煽動觀看者實際犯罪,被判處24年有期徒刑。

這在英國非單一事件,與警方密切合作的網路基金會在過去1年中面臨創建29年以來最大的挑戰,他們在網路上攔截的犯罪影像數量史上未見,其中的AI生成影像爆增3倍。

公視國際記者洪雅芳報導,「AI生成兒童性虐待影像的增加,跟真實犯罪案件是否有直接關聯?」

網路基金會政策與公共關係主任史維斯基表示,「這使這種行為被正常化,人們、尤其是施害者接觸到的影像越多,無論是AI生成的還是實際的照片,他們就想要觀看更多類似的素材,這之間存在聯繫,一些研究顯示,這會使人更有可能進一步,實際犯下接觸型性犯罪。」

AI影像的氾濫不僅讓專家精準鎖定犯罪更加困難,且嚴重威脅真實孩童的安危。網路基金會去年在暗網中,甚至發現一份長達200多頁的戀童癖手冊,鉅細彌遺地教導使用者如何利用科技誘騙孩童。

史維斯基指出,「其中包含了有關對兒童進行性勒索的資訊與指導內容,例如如何誘導兒童,以及如何向兒童發送一張照片,我記得在這個情況中所涉及的圖像是,一張孩子穿著泳裝的照片,接著利用 AI 對該圖像進行去衣化處理,然後再使用這張圖像對孩子進行勒索。」

專家發現有128個獨立模型會針對特定受害人,無限地創建新的場景。網路基金會曾經見證一位女童在3到8歲期間,遭受殘酷的性虐待,在她獲救5年後的今日,光是過去3個月,她竟又出現在不同AI創建的場景中,重複受害347次。

史維斯基表示,「我們知道,這個孩子目前已經身處安全的環境並且不再遭受虐待,然而我們現在看到她之前的影像,正被用來訓練人工智慧模型,透過AI技術,產生出她遭受新形式虐待的全新圖像,因此她再次成為受害者,這是一件完全無法接受的事情。」

AI是兒童倖存者的惡夢,成為加速兒童性侵害的工具。英國2月率先全球立法,明定禁止使用生成兒童性虐待影像的AI工具、禁止戀童癖AI手冊、明定創建網站者將面對10年重刑。

兒童性虐待犯罪跨越國境,網路基金會也呼籲各國立刻著手明確立法,在AI運用上全面失控之前,保障孩童安全。

洪雅芳報導,「在AI工具全球普及帶來生活便利的同時,它也可能被當成犯罪的工具,要如何防範AI被錯用濫用,考驗各國立法者的智慧。」

相關新聞