引進AI打擊犯罪成功捕千嫌 59人遭巴西警誤抓顯示仍有缺陷

每位工作人員都緊盯眼前的小螢幕，房間前面還有一台大螢幕，一旁則列出已經被逮捕的逃犯人數，這就是巴西聖保羅警方打擊犯罪的最新利器「Smart Sampa」。

這一套2024年引進的系統，會分析聖保羅全市4萬台監視器拍攝到的人像，再利用AI和犯罪紀錄中的畫面比對，以掌握犯罪者的行蹤。目前為止，這套系統已經讓大約2800名通緝犯落網、更有3600名現行犯被拍到，而被警方逮個正著。

聖保羅安全局長莫蘭度指出，「Smart Sampa系統有幾項重要功能：辨識通緝犯的面孔、辨識失蹤人口的面孔、抓現行犯、辨識車牌以及幫助女性暴力受害者。」

不過，這個系統並不完美，至少有59名無辜民眾被帶到警局，核對身分後才發現是系統辨識錯誤，甚至有一名精神病人在心理健康中心接受團體治療時，警方破門而入將他上銬，事後才發現是烏龍一場。

聖保羅民眾裴卓說：「我知道一些案例，一些人被誤捕入獄，我想辨識系統需要更多分析，系統還有待改進。」

也有由律師組成的民間團體指出，AI模型在訓練時如果使用包含種族偏見的資料，在執法時可能對特定人種會特別嚴格。然而，官方並未公布被逮捕者的相關資料，因此外界難以監督，這套系統是否岐視性執法。

律師組織成員柯斯塔指出，「這些技術失誤往往和特定種族有關，特別是黑人族群，巴西又是以有非裔血統的人口為主，讓偏誤更加嚴重了。」

而這套系統涵蓋幾乎所有公共場所的監視器，甚至也包含部分私人建築內部的鏡頭。律師也批評，官方將這套系統形容是犯罪的解方，卻有可能成為監控民眾、侵害隱私的工具。