Human Resources

Toggle

Article

解決招聘過程中(AI和人)抱持的偏見



Human Resources Online is heading to Bangkok with the Accelerate HR conference on November 26-27.
HR leaders from Agoda, DKSH, Fonterra, FWD, Kasikornbank, Minor Food, Nissan Motor and more have already confirmed to speak.
Early-bird tickets are still available.

READ IN ENGLISH

人工智能(AI)能夠大量減少完成重複行政工作的所需時間,對人力資源人員來說是天賜之物。AI在招聘過程的應用潛力也很大,但亦有須注意的事項。

AI在招聘過程中的應用迅速增長,引發關於偏見和公平的爭論,部分問題在於這個範疇的人類決策也可能存在缺陷,這些缺陷由個人(和社會)偏見所造成,而這種偏見往往是無意識的。

這引伸出一個問題:AI在招聘時作出的決定是否比人類作出的決定較少偏見?還是會加劇問題?

根據麥肯錫公司的一份報告:「AI可有助減少偏見,但亦可包括和擴大偏見。」

有很多關於人類決策過程中存在偏見的記錄,例如儘管信用記錄與在職行為之間的關聯尚未得到證實,但僱主可能會考慮候選人的信用記錄,這將可能對少數群體不利。

人類的決策也難以分析,人類可能會對他們考慮的因素撒謊,又或者未必理解影響他們思維的因素,因此有可能存在無意識的偏見。

報告指出:「在許多情況下,AI可減少人類對數據的主觀詮釋,因為機器學習算法學會根據所使用的訓練數據,只考慮能提高其預測準確性的變數。」

相反,有充分證據表明AI模型可嵌入人類偏見並大規模應用,問題很明顯往往主要源於(人類生成的)基礎數據而不是算法本身。

人類生成的數據也可能產生導致偏見的反饋循環,例如根據Latanya Sweeney對網上廣告定位中的種族差異研究,搜索非裔美國人名稱往往比搜索白人名稱出現較多包含「逮捕」一詞的廣告。

也就是說,要確保AI的招聘決策是公平,就必須包括人類的判斷。

報告指出:「雖然公平的定義和統計指標肯定有幫助,但AI無法考慮AI系統應用的社會背景細微差別,也無法考慮有關數據收集的潛在問題。」

「企業須與時並進,了解AI可以如何及在哪方面提高公平性,以及AI系統在哪些方面存在缺陷。」

考慮到這一點,以下圖表顯示六種有助減少AI偏見的方式:



Uncover and learn about complex HR innovation tools and strategies at Accelerate HR from Thailand's largest employers including Agoda, DKSH, Fonterra, FWD, Kasikornbank, Minor Food, Nissan Motor and more.
Happening in Bangkok on 26-27 November, early-bird tickets are still available.

Read More News

Trending