新創CEO憂AI安全風險 美政壇呼籲加強監管｜#公視新聞網 #Shorts

🤖 AI安全疑慮

AI 迅速發展提升人類效率，卻也衍生安全疑慮，Anthropic執行長阿莫戴（ Dario Amodei ）日前發文，呼籲減緩發展 AI 、加強監控。

在美國時間15日的一場科技會議中，阿莫戴再提及對 AI 發展的看法，「讓我們全面檢視所有的情況，因為我們永遠都有進步的空間。我們要改善我們的做法、重新承諾做到公開透明，並在安全方面投入更多資金。」

同場與會的輝達執行長黃仁勳認為，「市場機制本身就已經存在了，我們不需要任何新法律。我們只需要企業自己做決定，在確保安全的前提下全力衝刺。創新速度與產品安全並非不可兼得，這是一個假兩難的抉擇。但如果在任何一個時間點，你覺得公司快失控了，或者產品可能不夠安全，那就停下腳步，確保把事情做對。」

AI倡議團體「美國負責任創新協會」主席卡森（ Brad Carson ）表示，「機器人無須破門而入，對你開槍，只需破壞現代社會中，我們賴以維生的系統就行。越來越多的程式碼，由 AI 系統自動生成和執行，而無需人工干預，這些都意味著我們正面臨完全失去控制和理解的風險，因此我希望，我們能夠儘快採取行動。」

美國參議員桑德斯（Bernard Sanders)與前白宮顧問班農（Steve Bannon ），進步派、保守派罕見同台，呼籲政府加強 AI 監管。

桑德斯表示，「我們必須非常明確地指出，一旦超越人類控制的超級AI脫離掌控，這絕不會只是美國的問題，也不會只是中國的問題，而是全人類的問題。正因如此，我非常希望川普總統與習近平主席在下週的 AI 峰會上，能夠談判達成一項全面的條約，共同暫停先進 AI 的開發，並全面禁止超級AI的研發。」


✍️ 編輯・剪輯／陳廷威・核稿／林阡郡

#美國 #AI #監管 #US #Supervised