被控助長輕生少年自毀念頭 ChatGPT宣布推家長監護機制

加州一名16歲青少年雷恩（Adam Raine）今（2025）年4月輕生，其父母事後發現雷恩曾在與ChatGPT聊天時透露輕生想法，認為是AI助長了他的自我毀滅念頭。雷恩的父母上週正式向法院提告OpenAI，這也是首起OpenAI被指控涉及過失致死的訴訟案。

OpenAI對此隨即在2日宣布，將於10月推出家長監護機制，未來家長可透過email串聯家中青少年孩子的ChatGPT帳號、控制ChatGPT以適合該年齡層的行為規範回應青少年，以及停用聊天紀錄等特定功能，當系統偵測到青少年處於極度痛苦狀態時，家長也會即時收到通知。

OpenAI指出，已由青少年發展、心理健康和人類與電腦互動等領域專家組成委員會，探討如何以人工智慧幫助人類福祉發展。此外還有來自30個國家的90多位醫師，參與研究AI模型在心理健康情境中的相關表現，並對安全研究、模型訓練及干預措施提供意見，未來還會納入飲食失調、藥物濫用、青少年健康等不同領域專家。

對於OpenAI推出的防範措施，曾研究ChatGPT如何因應心理健康危機的史丹佛大學研究員摩爾（Jared Moore）表示，OpenAI尚未提供足夠細節說明干預措施如何運作，目前只看到模糊承諾。摩爾並建議，如果使用者認為與ChatGPT談話令人心煩，最簡單的方法就是結束它。

提倡兒童媒體安全的非營利組織「常識媒體」（Common Sense Media）AI計畫總監東尼（Robbie Torney）也認為，要求家長自行設定AI控制選項仍有難度，只是將責任推回父母身上，且青少年很容易就可以繞過相關防範措施，並非能長期保護青少年與兒童安全的方案。

※珍愛生命 生命線專線：1995