人工智慧系統雖然方便，但運作方式是根據輸入數據來學習，因此一直有研究指出這些系統未必能免除偏見。最近亞馬遜（Amazon）就宣布棄用對女性有歧視問題的招聘用人工智慧系統。

Amazon 的機器學習團隊自 2014 年以來，就在開發用來審核應徵者履歷表的自動化系統，讓尋找合適人選更簡單。有這樣的系統對已相當自動化的 Amazon 而言並不令人意外。這個系統可為應徵者自動打分數，從一星到五星，就像 Amazon 平台商品，讓人事部快速篩選不合適的人。據消息人士透露，Amazon 原先的目標是要利用人工智慧系統把招聘過程盡量自動化，放入 100 個履歷表後，就自動提供 5 個最合適的人選聘用。

不過這個系統 2015 年被發現分析軟體開發者和其他技術職位的應徵者時，會出現性別偏見。造成這問題的原因，是 Amazon 投入的數據來自 10 年來的聘用紀錄，由於大部分獲聘的都是男性，造成系統直接反映此情況，即履歷表出現「女性」一詞會扣分。雖然 Amazon 嘗試改變系統以減少偏見，但無法確保問題不再出現。

結果去年 Amazon 就棄用這個實驗性系統。Amazon 指，這個系統從來不是決定招聘與否的主要準則。這次事件也證明，要完全去除人工智慧系統對性別和種族的偏見，可能比想像中複雜。

原文連結：Amazon scraps secret AI recruiting tool that showed bias against women

 

資料來源：Unwire Pro、科技新報
圖片來源：Hitesh Choudhary

---

延伸閱讀：
黃晴雯入選首屆亞洲頂尖永續超級女性
亞伯首屆AI x CSR 人文智慧兢賽 永訊智庫奪冠
性平處：「科技性別化創新」理念獲認同