Anthropic研究員示警AI若失控 未來10年釀人類滅絕機率逾10%

驚悚警告，人工智慧快速進化，恐威脅人類存亡。AI公司Anthropic安全研究員胡賓格示警，他推估未來10年內，AI導致人類滅絕的機率「超過10%」，但未具體說明可能情境。剛離職的研究員考克森也警告，Anthropic與OpenAI競相開發的技術，可能發展成超越人類能力的系統，帶來生存威脅。

研究人員的主要擔憂，並非機器人突然向人類開戰，而是AI能力提升後出現「失準」，為了完成任務，採取違背人類利益的手段。一旦超級人工智慧具備自行複製、改進的能力，或遭到人類惡意利用，可能引發大規模網攻，甚至帶來生物安全威脅。

不過，聯合國AI顧問、電腦科學家霍爾，對相關言論表示震驚，也質疑部分說法可能帶有公關或行銷考量，因為Anthropic與OpenAI正積極籌備上市，並呼籲投資人審慎看待。Anthropic則拒絕回應員工的貼文。

儘管安全警報升高，全球AI競賽卻沒有停下腳步。Google今（2026）年3月在柏林成立AI中心，擴大研發布局；先前更宣布在德國投資55億歐元。德國政府一方面希望藉AI振興經濟，另一方面也強調，科技發展必須兼顧安全。

德國數位轉型部長維爾德貝格表示，「AI提供了令人難以置信的機會，但同時也伴隨著風險。我們必須正視這些風險，AI必須安全，並且始終以服務人民為首要使命。」

面對AI能力快速進化，美國目前要求頂尖開發商，在新模型推出前自願交由政府測試；國會也有人提案，要求強大AI設置「緊急停止開關」，並通報重大安全事故。當AI能力持續突破，安全機制能否及時跟上，也成為各國下一階段的治理重點。