人工智能的新問題 偏見

人工智能(AI)正在深入社會的每一個角落，而人工智能可能帶來的問題，包括《黑客帝國》或《終結者》等電影所描述的人類黑暗未來，都已經有了諸多研究和關注，不過在可以預見的未來，A I所帶來的另一個現實的問題正在浮現，那就是「偏見」。

如今企業幾乎都使用人工智能（AI），以簡化員工的工作，對於顧客，也更加便利。電腦軟件教客服人員怎樣更富同情心，學校用機器掃瞄校園內是否有武器和大規模屠殺的殺手，醫生使用人工智能查看病因。

網路安全、線上娛樂及零售等行業用AI技術與客戶資料相結合，以革命性的方式簡化服務。儘管這些應用程式看起來無害，甚或有助，但人工智能不過是些輸入的資料，也可能造成嚴重的負面影響。您可能並未意識到，但AI有時將決定您有沒有資格貸款。

問題是，如何能確保AI的決定是「不偏不倚」的呢？一般人認為AI會比人更少出現偏見，但事實可能並非如此。

設想一下，如果街上的人可以隨便拍您的照片，然後用電腦掃瞄進一個資料庫，從而了解您的一切，或機場的安全攝像頭把您標記為危險份子，卻讓一個真正的壞人大搖大擺的上飛機。當科技中混淆了人類偏見時，這就可能發生。

「人工智能是超強的工具，可用來做很多事情——其中有些是好的，有些可能會出問題。」現代創新及僱傭公司執行副總裁Eric Sydell說。他說：「在任何一種新技術的早期階段，很多公司試圖將其引入實際業務，而有些公司做得比別人要好。」

人工智能是一個概括性的術語，用於描述電腦執行的任務，這些任務通常需要人，例如語音辨識和決策。

無論是否有意，人類做出的判斷可以滲入AI的代碼中。意味著，AI能夠隱含種族、性別和意識形態偏見，進而促成一系列聯邦和州政府的條例。

AI喜歡甚麼顏色？這個最終是開發「它」的人做出的「決定」。(Shutterstock)

今年6月，民主黨眾議員Don Beyer對眾議院撥款法案提出了兩項修正案，將阻止聯邦資金通過執法部門融資於面部識別技術，並要求國家科學基金會向國會報告AI對社會的影響。

Beyer說：「不該全部禁止聯邦資金用於AI，但需要深思熟慮地使用。」「面部識別技術或導致警察認錯人，在極端情況下會導致他們拔出手槍。」

AI用於預測分析，電腦能夠顯示一個人犯罪的可能性。該技術是提高了安全性，抑或僅僅加大了不公平？

據AI治理中心和牛津大學未來人類研究所的一項研究，美國人對AI應用的支持度參差不齊，大多數（82%）同意對此進行監管。具體來說，當涉及到面部識別時，美國人說執法機構會很好地利用這項技術。

許多研究表明，自動化將摧毀人類的工作。

例如，牛津大學學者Carl Benedikt Frey 和Michael Osborne估計，至2030年代中期，47%的美國工作崗將面臨自動化的高風險。

不過在一些特定的情況下，AI將決定您是否會被僱用。

現代僱傭公司使用從測試、音訊訪談和簡歷中收集的資料來預測一個人的工作表現。他說：「有意義的資訊包括：他如何工作，會幹多久，是不是業績最好售貨員或高素質的工人。」

使用AI，「我們可以去掉不順手或冗長的部份，並讓候選人即時回饋」，他說，「如果AI部署不當，會使工作環境變得更糟，但如果搞得好，將產生更公平的職場。」

此外，無論好壞，人工智能都能影響人做出的財務決策，這已經被證實好久了。在防止信用卡欺詐方面尤為見效。

AI有沒有問題？研究說，它太男性化、白人化了，呼籲增加女性和少數民族。

偏見幾乎可以蔓延於深度學習過程的各個階段，然而，演算法也有助於減少人類因判斷力失誤而造成的差異。

一種解決方案涉及更改資訊中的敏感屬性以減少偏見。另一個則是預先篩選資料以保持準確性。他說，無論哪種方式，公司擁有的資訊越多，AI的決策就越公平。

「Google、Facebook和亞馬遜是AI領域的領先者，這不無原因」，Sydell說，「這是因其擁有大量資訊。其它公司也能接觸相同類型的 AI 技術，但卻沒有這樣多的資料。」

Beyer是一位想要監管人工智能的政治家，他贊成讓人類對電腦的決定反覆檢查，如果可能的話，直到技術無瑕疵為止。

他說，要質疑AI是否應該解決所有的問題，包括是否對某人判刑。

「即便它是完美的，我們還必須顧慮隱私。就像拍一張某人的照片，然後將其輸入資料庫，這合不合理？如果AI能比人類更快、更準確、更不偏不倚地閱讀X射線報告，那真是太棒了。但假如我們讓AI來宣戰，那就麻煩了。」◇

------------------

🔔下載大紀元App 接收即時新聞通知
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand

人工智能的新問題偏見