生成式AI崛起引災難性風險？ 專家認為研究者需凝聚共識
曹晏郡 陳昌維／綜合報導
發布時間：
更新時間：
生成式AI崛起，引領全球應用風潮。但AI是否會對全球帶來災難性風險持續引發關注。有專家認為，AI研究者必須凝聚共識，才能解決後續可能產生的問題。目前各國也開始評估AI監管機制，英國首相蘇納克宣示，要讓英國成為AI安全監管的領導者；歐洲議會也將針對人工智慧法的內容進行投票。
AI研究先驅傑佛瑞辛頓表示，「我們需要AI研究者們能夠取得共識。」
點出人工智慧發展面臨的問題。有AI教父之稱的傑佛瑞辛頓（Geoffrey Hinton）和AI專家吳恩達線上對談。談生成式AI崛起，可能會引發的災難性風險，以及現階段的考驗。
傑佛瑞辛頓指出，「無論GPT-4或BARD這類的大型聊天機器人，是否真的了解AI本身在說什麼，很明顯有些人相信，也有些人認為它們是隨機的鸚鵡，所以只要我們有這些不同的看法，我們就無法對於危險性取得共識。」
辛頓認為，AI研究者要凝聚共識，才有辦法解決後續的可能問題，畢竟現階段AI對於人類來說，還是有很多模糊、不了解的地方。
線上教育平台Coursera共同創辦人吳恩達認為，「AI系統是否真的理解這個世界，這會在AI災難，甚至滅絕的風險本質上，合理的將不同人導引到不同結論。」
AI技術是否會造成人類的災難或滅絕風險，有人嚴肅以對，也有部分學者不認同。
至於在12日登場的倫敦科技週上，英國首相蘇納克則宣示讓英國成為AI安全監管的領導者。蘇納克提及，「將提供我們專家小組一億英鎊經費，我們為了AI安全所投入的資金，比其他政府還要更多，我想要讓英國在AI安全監管方面能夠成為知識的中心，甚至連實質機構都是全球的中心。」
就在生成式AI如火如荼發展同時，各國政府都開始評估AI產業的相關監管機制。和英國分庭抗禮的歐洲議會預估在14日對人工智慧法的內容進行投票，如果後續推動順利，將成為全球第一套AI風險和使用的管理準則。
許祖菱/編輯
