AI招聘漸熱，如何抵御隱藏在算法背后的歧視？

AI招聘漸熱，可以提高人力資源開發(fā)效能，也可能放大社會(huì)固有偏見

如何抵御隱藏在算法背后的歧視？

閱讀提示

近年來，利用算法進(jìn)行AI招聘已成為職場中的一大新熱點(diǎn)，如何規(guī)避AI算法可能帶來的歧視問題成為保障就業(yè)公平面臨的一個(gè)新問題。近日，在上海市政協(xié)的一場重點(diǎn)提案督辦專題調(diào)研暨辦理推進(jìn)會(huì)上，監(jiān)管部門、行業(yè)專家以及業(yè)內(nèi)人士表示，防范AI就業(yè)歧視，需要加強(qiáng)對(duì)算法濫用的監(jiān)管、強(qiáng)化技術(shù)手段，多方面共同努力消除隱藏在算法背后的歧視，更好維護(hù)勞動(dòng)者權(quán)益。

隨著ChatGpt火爆出圈，國內(nèi)一眾AIGC平臺(tái)迅速跟進(jìn)，疊加我國互聯(lián)網(wǎng)招聘平臺(tái)正處于飛速發(fā)展期的大背景，利用人工智能技術(shù)進(jìn)行簡歷篩選和人力資源開發(fā)已經(jīng)成為當(dāng)前招聘領(lǐng)域的一個(gè)最新、最熱門的發(fā)展趨勢。

一些在AI招聘領(lǐng)域邁出實(shí)質(zhì)性步伐的企業(yè)和機(jī)構(gòu)表示，AI招聘可以避免主觀因素的干擾，更好地對(duì)應(yīng)聘者能力與崗位需求進(jìn)行匹配。然而，偏見和歧視也可能通過算法更隱晦地內(nèi)嵌到?jīng)Q策系統(tǒng)當(dāng)中，悄無聲息地侵蝕就業(yè)公平。

如何讓AI算法背后的就業(yè)歧視無處藏身？日前，在上海市政協(xié)一場重點(diǎn)提案督辦專題調(diào)研暨辦理推進(jìn)會(huì)上，各方積極建言，為就業(yè)領(lǐng)域的AI應(yīng)用立起公平公正的防護(hù)盾。

AI算法會(huì)不會(huì)產(chǎn)生就業(yè)歧視？

當(dāng)前，我國互聯(lián)網(wǎng)招聘平臺(tái)快速發(fā)展。數(shù)據(jù)顯示，一些頭部平臺(tái)累計(jì)服務(wù)求職者已超過1億人次，求職有效簡歷數(shù)超過1.5億份，認(rèn)證企業(yè)接近1000萬家。大量招聘需求與求職需求聚集于平臺(tái)，帶來了海量的數(shù)據(jù)積累。目前，已經(jīng)有多家招聘平臺(tái)開始探索通過AI算法為數(shù)據(jù)賦能。

“根據(jù)招聘平臺(tái)的數(shù)據(jù)，結(jié)合當(dāng)前社會(huì)上人工智能和大數(shù)據(jù)技術(shù)的發(fā)展，無論是用人單位還是中介部門，在雇傭決策上對(duì)算法技術(shù)的依賴性是不斷提高的。”上海市委網(wǎng)信辦總工程師楊海軍說道。

在AI算法為人力資源開發(fā)帶來效能提升的同時(shí)，一些隱蔽的風(fēng)險(xiǎn)也引發(fā)了各界的關(guān)注。

翁文磊曾長期在上海市婦聯(lián)工作，密切關(guān)注女性就業(yè)的她注意到，如今的勞動(dòng)者在求職時(shí)面臨的情形和以往已大不相同。“互聯(lián)網(wǎng)招聘平臺(tái)的簡歷篩選過程基于人工智能算法，可以從已知數(shù)據(jù)中準(zhǔn)確推測求職者的婚育狀況，同時(shí)其自主學(xué)習(xí)能力會(huì)放大社會(huì)固有的部分性別偏見。”

“盡管目前還沒有發(fā)現(xiàn)典型案例，但也要未雨綢繆。”翁文磊表示，互聯(lián)網(wǎng)招聘平臺(tái)帶來的性別就業(yè)歧視更加隱蔽，只能通過長期招聘結(jié)果進(jìn)行反推。“同時(shí)，勞動(dòng)法規(guī)制性別歧視的主體是雇主，即便互聯(lián)網(wǎng)招聘平臺(tái)可以承擔(dān)責(zé)任，其責(zé)任的履行也存在很大困難。”針對(duì)潛在的歧視風(fēng)險(xiǎn)，她認(rèn)為，是否存在歧視要根據(jù)數(shù)據(jù)來看，還要加強(qiáng)對(duì)典型案例的數(shù)據(jù)分析，進(jìn)而及時(shí)提出預(yù)警。

多管齊下共同監(jiān)管

就業(yè)是最大的民生，就業(yè)歧視事關(guān)身在職場的每個(gè)勞動(dòng)者，如何未雨綢繆防患于未然，各方都已行動(dòng)起來，保障就業(yè)領(lǐng)域的公平公正。

針對(duì)算法新問題，楊海軍介紹，國家先后出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，并持續(xù)開展專項(xiàng)行動(dòng)，深入排查整治各類企業(yè)的算法濫用現(xiàn)象。“主要是對(duì)企業(yè)算法的機(jī)制、機(jī)理、管理制度、應(yīng)用場景，它的標(biāo)簽體系、用戶權(quán)益保護(hù)等多個(gè)方面進(jìn)行深入檢查。基本上所有頭部的招聘企業(yè)都納入了檢查名單。”楊海軍說。

在監(jiān)管發(fā)力的同時(shí)，技術(shù)手段也在加強(qiáng)。上海市科委總工程師趙健介紹，在2021年人工智能科技支撐專項(xiàng)項(xiàng)目審核中，上海專門部署了人工智能社會(huì)實(shí)驗(yàn)體系建設(shè)專題，強(qiáng)調(diào)要科學(xué)評(píng)估人工智能的社會(huì)綜合影響，有效推進(jìn)人工智能應(yīng)用的標(biāo)準(zhǔn)建設(shè)，輔助支持人工智能應(yīng)用的公共治理的決策。

防止AI可能存在偏見和歧視的問題，一些機(jī)構(gòu)已經(jīng)在這方面進(jìn)行有力的探索。“比如上海的浦江實(shí)驗(yàn)室建設(shè)了軟硬結(jié)合的蒲公英人工智能治理開放平臺(tái)——OpenEGlab，目標(biāo)是要打造系統(tǒng)、實(shí)用的人工智能倫理治理的基礎(chǔ)設(shè)施。”趙健介紹說，該平臺(tái)包括規(guī)則風(fēng)險(xiǎn)展示、評(píng)測框架等五大部分。其中，公平公正的維度，涵蓋了基于性別、地域、年齡、職業(yè)健康的歧視內(nèi)容。同時(shí)，建立了基于評(píng)測框架敏感問題的評(píng)測語料庫，數(shù)據(jù)量達(dá)到百萬級(jí)，公平公正部分的數(shù)據(jù)量將達(dá)到十萬級(jí)，目前對(duì)一些國內(nèi)外大模型安全性初步開展了評(píng)測。

讓勞動(dòng)者參與算法治理

“來伊份目前有7800名正式員工，95%是女性，40歲至50歲的員工占50%。”面對(duì)職場上的就業(yè)歧視，上海來伊份股份有限公司總裁郁瑞芬常用自己的經(jīng)歷來回應(yīng)偏見：“我是1999年創(chuàng)業(yè)的，雇用了大批下崗工人，她們是可愛的人，工作認(rèn)真努力。”

郁瑞芬認(rèn)為，年齡、性別等都不應(yīng)是職場的門檻。“我們門店的大多數(shù)員工都是上海本地阿姨，企業(yè)對(duì)她們?cè)陔娔X技能方面進(jìn)行了培訓(xùn)提升，目前每年發(fā)放工資8.5億元左右。”

“女性構(gòu)成了就業(yè)和勞動(dòng)力市場的半邊天，但晉升遭遇天花板、同工不同酬等就業(yè)歧視仍然存在于一些企業(yè)之中。”翁文磊認(rèn)為，經(jīng)濟(jì)轉(zhuǎn)型，特別是新技術(shù)對(duì)就業(yè)的替代效應(yīng)，女性是有優(yōu)勢的。“現(xiàn)在就業(yè)不僅僅要肌肉，更重要的是協(xié)調(diào)能力。”

上海財(cái)經(jīng)大學(xué)法學(xué)院教授吳文芳在對(duì)數(shù)字時(shí)代人工智能算法治理與勞動(dòng)者權(quán)益保障進(jìn)行研究時(shí)曾撰文指出，針對(duì)算法可能導(dǎo)致歧視以及算法權(quán)力濫用的問題，需要通過算法治理工具予以規(guī)制。

吳文芳表示，應(yīng)關(guān)注勞動(dòng)者參與算法治理的具體路徑構(gòu)建，以及勞動(dòng)者新型權(quán)利的賦權(quán)進(jìn)路。同時(shí)，應(yīng)強(qiáng)化工會(huì)的專業(yè)化賦能及與第三方專業(yè)機(jī)構(gòu)的制度化協(xié)作，積極參與算法設(shè)計(jì)、算法公開等監(jiān)管程序。（記者 裴龍翔）

來源： 工人日?qǐng)?bào)