美校園槍擊案槍手用AI策劃行動 佛州檢方起訴OpenAI及阿特曼

校園外的空地上擺滿學生們哀悼槍擊案罹難者的鮮花與字條。去年4月、佛羅里達州立大學發生一起槍擊案，造成2死6傷；檢警在調查中發現，年僅21歲的兇手竟然事先透過ChatGPT詢問「校園何時人最多」、「使用哪種槍枝能造成最大傷亡」，甚至得到「若有兒童傷亡將獲得更多媒體關注」等冷血建議。佛州政府對此決定向OpenAI採取法律行動。

佛州槍擊案槍手犯案前曾問AI 檢調查ChatGPT是否協助犯罪 ｜ 公視新聞網 PNN

🌐 news.pts.org.tw

佛州檢察長烏斯梅爾（James Uthmeier）表示，「我們最近對阿特曼和ChatGPT提起一項具有里程碑意義的民事訴訟。因為他們危害我們的孩子，並欺騙父母相信這個應用程式是安全可用的；它顯然並不安全，人們因此受到傷害，父母被蒙蔽，他們需要為此付出代價。」

這起訴訟案不僅要求數十億美元的鉅額賠償，更要求法院下令OpenAI，必須更改其與年輕使用者的互動方式，並建立安全防護機制。隨著網路安全意識抬頭，不僅開始倡導對AI監管，各國政府也陸續，對兒少使用社群媒體祭出限制。馬來西亞政府從這個月起，禁止16歲以下兒童與青少年，註冊社群媒體帳號。

馬來西亞家長薇拉薩米表示，「因為我們也了解，你不可能完全切斷網路以及社群媒體等相關事務與他們的生活連結。這是他們當今生活的一部分，所以他們必須能至少稍微瀏覽，但不能是完全的存取權限，絕對不行，必須嚴格限制和受到監管。」

大馬這項新規涵蓋臉書、IG、TikTok與YouTube等主流平台，要求業者必須建置年齡驗證系統，違者將面臨高達250萬美元的罰款。從美國佛州對AI巨頭的訴訟到馬來西亞的社群禁令，如何防止網路科技成為危害兒少心智與人身安全的幫兇，已成為全球政府無法迴避的重要課題。