ChatGPT報告揭中國惡意濫用 要求撰寫監控工具、生成釣魚信件

ChatGPT母公司OpenAI近期發布最新公共威脅報告（Public Threat Report），公布旗下AI被惡意濫用的一系列相關活動，其中中國政府被點名利用ChatGPT進行多項「國家安全行動」，包括維權、監控與控制人民。

OpenAI並舉例，在已封鎖的數個可能與中國官方有關帳戶中，曾要求ChatGPT協助設計社群媒體監控工具，或撰寫名為「高危涉維吾爾關注人員流入預警模型」提案。不過OpenAI也強調，無法確認這些AI開發出的工具，最終是否被中國政府機構採用。其他遭封鎖的帳戶還包含要求ChatGPT查明批評中國政府的X帳號背後資金來源、以及蒙古某份請願書背後的發起者。

報告也指出，還有一批與中國政府有關的帳號曾利用ChatGPT協助，假冒學術界、業界或會議人士身分，以中文撰寫簡潔且有禮的信件，試圖對台灣半導體產業人士發送釣魚信件。

此外，OpenAI還發現有小型網絡運用ChatGPT生成大量廣東話社群媒體貼文，並張貼在X（舊稱：推特）或Instagram批評或貶低香港社運人士，對象包括黎智英、羅冠聰與周庭等人，目的在於抹黑並將其塑造成罪犯或叛徒形象；其他生成貼文還包括支持《香港國安法》等內容。

除對台灣、香港發動攻擊外，報告亦揭露有帳戶使用ChatGPT生成越南造成南海環境影響、批評菲律賓總統小馬可仕（Ferdinand Marcos Jr.）等貼文內容。OpenAI認為，這些攻擊的產生可能涉及中國與越南、菲律賓等國在南海、西菲律賓海的領土爭議。

OpenAI表示，自去（2024）年2月啟動公共威脅調查至今，已封鎖40多個違反使用規則的網絡，對象包含防止專制政權利用AI控制民眾或脅迫其他國家，以及防止詐騙、惡意網路活動和秘密影響行動等濫用行為。未來將持續致力建構「民主化AI」（democratic AI）。