美校園傳多起AI生成同學裸照 逾20州擬立法規管

隨著生成式人工智慧快速發展，為防止學生藉此作弊或代寫作業，學校緊急限制生成式人工智慧的使用。然而，美國校園裡卻又發生多起深偽的未成年性剝削案件。

《紐約時報》報導指出，美國的青少年利用APP「nudification」，藉參與學校舞會等活動拍攝女同學的清晰面部照片，並合成為裸露乳房或生殖器的圖像，並透過Snapchat與Instagram等社群平台，以群聊轉發這些合成這片

過去2個月，類似事件就發生在伊利諾州、加州與西雅圖的校園裡。聯邦調查局警告，傳播由人工智慧生產的兒童性虐待素材，屬於違法行為。

兒童性剝削專家認為，這種合成的深偽圖像可能帶來嚴重後果，使用未經同意或人工智慧生成的圖片來騷擾與欺凌年輕女性，將損害他們的心理健康與人身安全，甚至影響未來的大學與職場生活。

史丹福網路觀測站（Stanford Internet Observatory）研究學者普費弗柯恩（Riana Pfefferkorn）指出，「此現象非常突然，可能會讓學校措手不及。」部分地區似乎尚未做出應對，將使學生權益難獲保障。

比佛利山莊的比佛利維斯塔中學（Beverly Vista Middle School）2月就發生，5位學生創作並分享女性深偽性裸露照片案件，最終校方開除加害者。聯合學區校長布雷吉（Michael Bregy）強調絕不允許製作同學色情照片。

美國有部分州開始制定法案管理，路易斯安那州規定若製作、傳播、推廣未成年合成性圖片，將面臨5至10年的監禁。麻薩諸塞州除了將傳遞、製作未成年性圖像視為犯罪，還需教導學生如何負責任的使用生成式人工智慧。

目前僅對生成與傳遞未成年性影像進行規範，卻未究責裸體應用程式的開發者。律師漢利（Elizabeth Hanley）認為，「需要立法阻止商業化，這才是生成式未成年性圖像流傳的根源。」