801
【機器人麵試官】想拿百萬年薪，可能要機器人說了算
AI招聘工具：致力於消除招聘過程中的人類偏見
Eyal Grayevsky 提出一個計劃，來增加矽穀的多樣性。他在2012年共同創立了 Mya Systems 公司。這家公司的戰略是：減少人類對招聘的影響。
Grayevsky 表示，“我們致力於消除招聘過程中的人類偏見。“
他們通過Mya來實現這一願景。Mya是一個很像招聘人員的聊天機器人，能對麵試者進行麵試和評估。Grayevsky 認為，Mya和一些招聘人員不同，它會問客觀的、基於人員表現的問題，避免了人類可能做出的潛意識判斷。Mya評估候選人簡曆時，不關注長相、性別、名字。
Grayevsky 拒絕透露使用Mya的公司。但據他表示，幾家大型招聘機構都在使用Mya與候選人進行“初次對話”。Mya能夠根據職位的核心要求過濾候選人，了解他們的教育和職業背景，告知工作職責的具體細節，回答有關企業文化和政策的問題。
眾所周知，科技行業存在多樣化失衡的問題，但試圖糾正這種不平衡的過程過於緩慢。被一些公司指責的“流程問題”（pipeline problem）大多數來自於招聘過程。人員招聘是一個非常複雜、大批量的過程。招聘人員基於自己的主觀判斷挑選出最好的候選人。目前，很多創業公司在搭建人工智能招聘工具和平台，他們稱這會大大降低招聘過程中的人類偏見。
除了Mya，另一個致力於消除招聘偏見的程序是HireVue。HireVue使用基於視頻文本的軟件，基於麵部表情、語言詞匯，從視頻麵試中提取25000個數據點來選出表現最好的人員，甚至可以對人員的同情心這類抽象特質進行評估。英特爾、聯合利華、耐克等公司都在使用HireVue。
HireVue首席技術官Loren Larsen表示，無論是什麼背景（性別、種族、年齡、學曆、工作經曆等），HireVue能讓候選人得到同樣的機會。這是因為HireVue對所有候選人都采用同樣的評估過程。而在過去，招聘人員的評估判斷可能會隨著心情和環境而改變。
谘詢公司CEB的產品總監 Aman Alexander 說，盡管AI招聘工具還沒有得到廣泛應用，但“需求在不斷增長。”他還說，使用AI招聘工具最多的不是科技公司，而是進行大量招聘的零售商。這意味著相比起公正度，效率才是吸引AI招聘工具用戶的主要原因。
然而，設計出AI招聘工具的團隊（如HireVue和Mya）堅信他們的產品能使招聘更公正。他們值得被相信。由於自動化需要設定標準，因此使用AI招聘工具能夠提醒公司意識到如何客觀評估候選人。在最佳情況中，標準參數會在良性循環中不斷更新，AI工具可以使用最新數據，使得招聘過程更加公平客觀。
但是，請注意：AI使用的數據是由那些混亂、令人失望、充滿偏見的人類所提供的。
AI工具可能會使偏見永遠存在，而不是消除偏見
深入追究任何本意在於促進公平的算法，你都會發現隱藏的偏見。獨立新聞機構ProPublica檢查了被美國警察用來預測再犯罪率的工具，發現該算法對非裔美國人存有偏見。還有Beauty.AI，這個AI使用人臉識別和年齡識別算法從一係列提交給它的照片中選出最具有吸引力的人。令人遺憾的是，算法表現出對淺膚色、淺色頭發的候選人的強烈偏好。
即便是AI係統的創造者也承認，AI絕非沒有偏見。“在招聘過程中使用人工智能有很大的風險是增加偏見，而不是減少偏見。”Laura Mather 說，她是AI招聘平台 Talent Sonar 的創始人兼CEO。她補充說，由於AI依賴於由人類團隊創建的訓練集，它可能促進偏見，而不是消除偏見。這樣的AI招聘到的人可能“都很聰明，很有才華，但很可能所有人都非常相似。”
而且，由於AI是從大批候選人中篩選，任何偏見都可能係統地影響許多人。Grayevsky 的報告稱，Mya Systems 這個網站專注零售業等行業的招聘，“GVS Health（美國最大的藥品零售商）每年招聘12萬名員工，Nike 每年招聘8萬人。”係統中的任何歧視都會大規模地影響申請者。通過快速檢索，例如從50萬或以上申請人中選取12萬人，該AI平台可以瞬間得到申請人集合並發送給人類招聘專員。
此外，AI招聘的強大能力還有一個好處：它解放了HR，讓他們得以把精力集中在做出明智的最終決定上。Grayevsky說：“我曾與數千名HR交談過，每個人都抱怨自己沒有足夠的時間。”由於沒有時間和每個候選人交談，做決定時直覺就變得十分重要。盡管AI讓HR處理更大數量的求職者，但它也可能給HR更多時間擺脫快速判斷。
要避免這些缺陷，工程師和程序員必須高度警惕。Grayevsky 解釋說，Mya Systems 對 Mya 用來學習的數據種類進行了“設置控製”。這意味著Mya的行為不是使用原始的，未處理的招聘數據和語言數據生成的，而是使用Mya Systems以及其客戶預先批準的數據。 這一方法縮小了Mya學習偏見的機會。不過，這種方法並不能消除偏見，因為任何預先批準的數據都反映了人類選擇的傾向和偏好。
這就是為什麼AI工具可能會使偏見永遠存在，而不是消除偏見。“我們盡量不把AI當成萬能藥，”奧克蘭的一家多元化谘詢公司 ReadySet 的執行總監 Y-Vonne Hutchinson 說：“AI是一種工具，AI也有它的製造者，有時候AI也會放大其製造者的偏見和盲點。”Hutchinson補充說，為了讓工具奏效，“那些使用這些程序的招聘人員需要接受培訓，以發現他們自己以及其他人的偏見。”如果沒有這樣的多元化培訓，人類招聘專員就隻是把自己的偏見強加到該流程中的另一個點。
AI+HI：利用AI工具增加多樣性
一些使用AI HR工具的公司正在運用它們來增加多樣性。例如，Atlassian是Textio的一個客戶，它是一個智能的文本編輯器，使用大數據和機器學習技術提供對職位列表進行修改的建議，從而吸引不同類型的求職者。跟據Atlassian全球多元化和包容性負責人Aubrey Blanche的說法，該文本編輯器幫助公司將新員工中的女性比例從18％提高到了57％。
Blanche解釋說：“我們已經看到了候選人的性別分布和我們正在招聘的人的性別分布的差異。”使用Textio的另外一個意想不到的好處是，除了申請人變得多元化之外，還使公司對自己的企業文化有了認識。
最終，如果AI招聘提高了生產效率，這些工具就會變得更加普遍。但是，僅僅依靠采用AI和信任AI對於實現更公平的招聘是不夠的。更重要的是，企業需要不斷增加多樣性的意識。AI或許不會成為科技行業多元化問題的全能解藥，但它起碼可以成為矽穀努力改進的重要工具。
原文發布時間為：2017-09-18
作者：Simon Chandler
編譯：neko 佩琦
本文來自雲棲社區合作夥伴新智元，了解相關信息可以關注“AI_era”微信公眾號
原文鏈接
最後更新：2017-09-20 16:03:30