生成式AI亂象多 德雜誌假訪舒馬克家屬擬提告

在ChatGPT等生成式AI急速發展下,越來越多先端技術研發,或是繪稿、文字作品等,都利用生成式AI處理,引發不少亂象。德國就有雜誌藉此生成一篇F1賽車車神舒馬克專訪,引發爭議;儘管女總編被開除,但依舊讓車神的家人不滿,打算提告。而日本也有資安公司實驗,發現ChatGPT能寫出惡意軟體,輕鬆突破防護機制。

報架上不同雜誌陳列其中,但這本以F1賽車車神舒馬克照片當封面的雜誌,吸引不少人的目光。

這本德國雜誌《Die Aktuelle》日前刊出一篇報導,標題以「舒馬克首度受訪」,吸引多年來依舊關心他的車迷購買,但最後才知道是透過AI生成的假採訪。

牛津大學教授伍爾德里奇指出,「這項技術非常非常擅長製造假新聞,最終這項技術就是生成很有可信度的內容。如果你很不擇手段,可以利用它的方法之一,就是將製作假新聞變得工業化。」

儘管雜誌所屬的德國芬克媒體集團緊急向舒馬克的家人道歉,並開除雜誌女總編,依舊讓車神家人不滿,打算提告。

隨著ChatGPT等生成式AI急速發展下,越來越多繪圖、文字作品等行業,紛紛受到衝擊,衍生不少亂象;也引起人工智慧到底是工具,或是製造危險的爭議。

美國普渡大學哲學系助教哈維爾拉文說:「很多人認為AI被視為一種工具,跟任何工具相同,也可能存在危險。但通常只有在人們以不當方式使用,才會變得危險。」

拉文認為,隨著科技快速發展,大眾越來越擔心AI會取代某些領域的勞工。但其實AI優異的表現只在特殊領域中,人類的發展、大腦運作遠比AI技術複雜,依舊是關鍵操作AI的一環。

鑒於美國目前沒有立法監管AI的使用與運作模式,美國紐澤西史蒂文斯理工學院的政治學助教柯瑪克認為,立法監管AI、讓AI發展變得透明化,是議員們的首要任務。

柯瑪克指出,「針對AI的法規急需被設立,但我認為我們需要先確認我們擔憂什麼。是怕會有武器,還是擔心失去工作?又或是憂心錯誤訊息?而國會議員恐怕並沒有意識到這件事情發展得有多快,假如我們不盡早立法,就是縱容研發者自己發展並設立他們想要的界線。」

柯瑪克表示,AI研究發展宛如第4次工業革命,在過去網路、印刷機,甚至發展火車旅行的過程中,也曾有過類似恐懼出現在歷史上。

鑒於日本資安公司三井物產安全管理曾經做過測試顯示,ChatGPT能寫出病毒程式,輕鬆突破防護機制。她認為要立法監管,必須要有前瞻性思維,以便在增加犯罪、社會分裂等不利於大眾事件發生前制定規則。

歐盟執委會執行副主席維斯塔格表示,目前歐盟已經在準備新的立法規範AI使用,並且對研議好法規進行修改,以應對生成式AI;同時也呼籲G7七大工業國,共同監管ChatGPT。

至於日本中央和地方政府目前對ChatGPT並沒有統一使用規範,因此出現農林水產省和橫須賀市,願意試行讓員工利用來完成業務;但鳥取縣卻禁止縣府職員利用在公務上,要求職員穩紮穩打執行政策。

2022杭州亞運 台灣百金之路

相關議題

相關新聞