高大開發即時手語辨識系統 可將手語轉文字或語音
發布時間:
更新時間:
衛服部統計資料顯示到2019年底前全台12萬名聽覺機能障礙朋友,其中有2到3萬位使用台灣手語。有鑑於專業手語翻譯員人數追不上需求,高雄大學開發即時手語辨識系統,透過捕捉使用者手部動作以及面部表情來即時分析手語,目前雖然還在雛型階段,已經通過國科會大專學生研究補助。
透過系統即時辨識手語,這是高雄大學資訊工程學系開發的「手語之聲」,運用光流技術、深度學習以及資料生成技術,研發出透過普通攝影鏡頭就能判讀使用者手部動作以及面部表情,快速將手語轉為文字或是語音。
高雄大學資工系學生江東庭表示,「台灣就是資料比較不齊全,沒那麼好找,我們會用這個讓它做一些位移、變形,讓它去生成一些不一樣的資料。」
高雄大學資工系學生李思恩指出,「我們會先去收集網路上手語單詞的影片,那在收集的過程中我們也會去了解它每個動作怎麼比,以及為什麼它要這樣去比。」
指導教授指出,目前系統還在雛形階段,還要克服判斷句子斷點以及連續長時間手部動作即時判讀等挑戰,也需要有大量的手語資料庫來輔佐。
高雄大學資工系教授余亞儒說明,「比很快之後那其實,一句跟一句之間怎麼樣去中斷,這個困難點我們目前還沒有解決。那另外一個人講話之後,它能不能也轉成手語讓另一個只會手語的人去理解,那這個方向也是在第2個階段我們希望可以完成的部分。」
「手語之聲」通過113學年度國科會大專生研究,也在校內競賽得獎,團隊希望系統更加健全後能在政府、醫院、警政通報等場所提供服務,讓全台將近3萬名使用手語的族群更加便利。
洪詩宸/編輯