以AI「脫衣」生成不雅照 聊天機器人Grok遭多國調查

社群平台X上推出的聊天機器人Grok，其中一項功能為用戶可在上傳照片後，透過指令快速生成AI照片。不過該功能近來卻被發現遭用於生成大量女性、甚至未成年者的不雅照片。

根據統計，Grok曾在10分鐘內收到來自用戶的102條請求，內容皆為要求編輯特定照片，將照片中的人物修改為身穿比基尼，多數受害對象為年輕女性，但也有少數是男性、名人或政治人物。

當Grok接收到類似的修改照片指令時，常會讓照片中的人盡可能穿上暴露服裝。路透報導指出，已知Grok在至少21起案例中，完全滿足生成女性裸露照的請求，將照片中的女性從原本的衣著替換為比基尼，有時甚至還讓女性全身塗滿油。

受害者之一、巴西音樂家尤卡麗（Julie Yukari）向路透表示，她將自己身穿紅色連身裙的照片上傳至X平台後，隔日卻接到通知顯示，有多位用戶正在要求Grok將她的照片修改為穿著比基尼，隨後她的AI生成泳裝照就在社群上開始流傳。

Grok生成裸露影像事件已經引發國際關注，法國政府已向檢察官與監管機構檢舉X平台，並指Grok生成圖片的內容帶有性暗示與歧視，顯然已違法。英國通訊管理局 (Ofcom) 也表示，製作或分享未經同意的私密或兒童性虐待影像是違法行為，其中也包括使用AI製作內容，呼籲X應該採取適當措施。

而在亞洲，馬來西亞政府同樣接獲投訴，指Grok濫用AI技術製作女性與未成年者的不雅影像，並已對此展開調查。印度資訊科技部也在發函給X的信件提到，X平台不僅未阻止Grok被濫用，甚至讓用戶產出並傳播猥褻及露骨的色情內容。

對此Grok官方回應坦承，確實有少數用戶在向Grok下指令後，成功收到未成年者衣著暴露的AI圖像。不過Grok也強調，其xAI設有安全措施，未來將會持續改善，希望徹底阻止生成類似圖像。