SUBSCRIBE: Newsletter

Human Resources

Toggle

Article

解決招聘過程中(AI和人)抱持的偏見

HR Masterclass Series: High-level HR strategy training workshops
with topics ranging from Analytics, to HR Business Partnering, Coaching, Leadership, Agile Talent and more.
Review the 2019 masterclasses here »

READ IN ENGLISH

人工智能(AI)能夠大量減少完成重複行政工作的所需時間,對人力資源人員來說是天賜之物。AI在招聘過程的應用潛力也很大,但亦有須注意的事項。

AI在招聘過程中的應用迅速增長,引發關於偏見和公平的爭論,部分問題在於這個範疇的人類決策也可能存在缺陷,這些缺陷由個人(和社會)偏見所造成,而這種偏見往往是無意識的。

這引伸出一個問題:AI在招聘時作出的決定是否比人類作出的決定較少偏見?還是會加劇問題?

根據麥肯錫公司的一份報告:「AI可有助減少偏見,但亦可包括和擴大偏見。」

有很多關於人類決策過程中存在偏見的記錄,例如儘管信用記錄與在職行為之間的關聯尚未得到證實,但僱主可能會考慮候選人的信用記錄,這將可能對少數群體不利。

人類的決策也難以分析,人類可能會對他們考慮的因素撒謊,又或者未必理解影響他們思維的因素,因此有可能存在無意識的偏見。

報告指出:「在許多情況下,AI可減少人類對數據的主觀詮釋,因為機器學習算法學會根據所使用的訓練數據,只考慮能提高其預測準確性的變數。」

相反,有充分證據表明AI模型可嵌入人類偏見並大規模應用,問題很明顯往往主要源於(人類生成的)基礎數據而不是算法本身。

人類生成的數據也可能產生導致偏見的反饋循環,例如根據Latanya Sweeney對網上廣告定位中的種族差異研究,搜索非裔美國人名稱往往比搜索白人名稱出現較多包含「逮捕」一詞的廣告。

也就是說,要確保AI的招聘決策是公平,就必須包括人類的判斷。

報告指出:「雖然公平的定義和統計指標肯定有幫助,但AI無法考慮AI系統應用的社會背景細微差別,也無法考慮有關數據收集的潛在問題。」

「企業須與時並進,了解AI可以如何及在哪方面提高公平性,以及AI系統在哪些方面存在缺陷。」

考慮到這一點,以下圖表顯示六種有助減少AI偏見的方式:



Mark your calendars as the crowd's favourite candidate and employee experience conference, Talent Experience Forum is back!
Happening only in KL, Malaysia on 5 November. Register your seat early because you will be hearing top insights from C-suite and senior HR leaders from Dell, Digi, GoCar, IPG Mediabrands, Nestle, Tesco, Unilever and more.

Read More News

in All markets by

Quick Q&A with May Schooling

Lessons on making tough decisions, instilling the mindset of an Olympic champion in staff, and more in this conversation with Jere..

Trending