公司每年使用AI來處理數十億的客戶通信。AI系統(tǒng)可以響應最常見和最簡單的查詢，例如“我的帳戶余額是多少”，從而使人工座席可以自由處理更復雜的客戶服務問題。AI系統(tǒng)的設計不僅可以理解客戶的查詢，還可以確定最佳的響應方式，這是否意味著提供直接答案，提出明確的問題，將交互傳遞給現場座席，下訂單或其他。

　　對系統(tǒng)進行編程以做出這些決定并采取這些行動絕非易事，而且要承擔與承擔該任務的人員相同的失敗。因此，偏見可能會滲入算法，特別是因為AI僅與輸入的訓練數據一樣好，并且該數據可能包括關于性別，種族，性取向或其他歷史或社會不平等因素。

　　在許多公司正在擴大對AI的使用的時候，意識到這些偏見并緩解它們是當務之急。

　　“這是一個重要的問題，因為我們正在做出越來越重要的AI決策，”Spark Beyond的首席執(zhí)行官兼聯合創(chuàng)始人Sagie Davidovich說。Spark Beyond是使用AI的自動化研究引擎的提供商。“您要有責任心，透明性和包容性。”

　　“發(fā)現AI語音識別系統(tǒng)包含歧視特定人群的偏見。”Pro Privacy.com的數字隱私專家Ray Walsh說：“這令人不安，因為這類算法通常部署在所有公民使用的平臺上。結果，這些技術可能積極地導致偏見或歧視的重新表達。”

　　如果不加發(fā)現，人工智能的偏見可能導致有害的歧視性做法，競選結果失真，違反法規(guī)或失去公眾信任。

　　沒有比在2016年失敗的Microsoft Twitter機器人Tay失敗命運更明顯的事實了。Microsoft將Tay描述為一種對話理解的實驗，其中Tay參與度越高，越聰明，它就會通過“隨意而有趣的對話。”

　　但是，一旦Tay上線，人們就開始在Twitter上發(fā)布推文，其中包括各種厭惡種族主義言論。Tay開始向用戶重復這些種族主義，厭惡女性的情緒。僅僅運行了16個小時，Microsoft就停止了該技術的使用。

　　Tay當然不是第一次發(fā)生這樣的事情。多年來，自動化技術也被歸咎于貸款行業(yè)的偏見。金融機構成群結隊地轉向自動化，以加快貸款批準和拒絕決策的速度，大概沒有相同的偏見，而這種偏見可能會滲入人類的思維過程。

　　WPEngine的研究至少在理論上支持了這一觀點。在接受調查的受訪者中，有92％的人表示，他們相信AI將為檢查組織和數據相關偏見提供機會。53％的人表示，他們相信AI為克服人類偏見提供了機會。

　　但是研究還發(fā)現，將近一半（45％）的人認為AI的偏見可能導致少數群體的代表不平等。

　　最后，確實發(fā)現借貸過程中的自動化系統(tǒng)存在偏見，因為它們使用的數據和變量往往會歧視屬于少數族裔的抵押貸款申請人。

　　如今，已顯示出功能更強大的計算系統(tǒng)和更易獲得的數據可以消除早期技術的某些固有偏見，但許多專家都同意，當今的系統(tǒng)中仍然存在某些偏見。

　　Davidovich說：“我們需要開始考慮AI系統(tǒng)中的偏見。”

　　原文網址：https://www.speechtechmag.com/Articles/Editorial/Features/Overcoming-Bias-Requires-an-AI-Reboot-140548.aspx