中國西藏網(wǎng) > 即時新聞 > 時政

        AI招聘漸熱 如何抵御隱藏在算法背后的歧視?

        發(fā)布時間:2023-09-12 10:08:00來源: 工人日報

          閱讀提示

          近年來,利用算法進行AI招聘已成為職場中的一大新熱點,如何規(guī)避AI算法可能帶來的歧視問題成為保障就業(yè)公平面臨的一個新問題。近日,在上海市政協(xié)的一場重點提案督辦專題調(diào)研暨辦理推進會上,監(jiān)管部門、行業(yè)專家以及業(yè)內(nèi)人士表示,防范AI就業(yè)歧視,需要加強對算法濫用的監(jiān)管、強化技術(shù)手段,多方面共同努力消除隱藏在算法背后的歧視,更好維護勞動者權(quán)益。

          隨著ChatGpt火爆出圈,國內(nèi)一眾AIGC平臺迅速跟進,疊加我國互聯(lián)網(wǎng)招聘平臺正處于飛速發(fā)展期的大背景,利用人工智能技術(shù)進行簡歷篩選和人力資源開發(fā)已經(jīng)成為當(dāng)前招聘領(lǐng)域的一個最新、最熱門的發(fā)展趨勢。

          一些在AI招聘領(lǐng)域邁出實質(zhì)性步伐的企業(yè)和機構(gòu)表示,AI招聘可以避免主觀因素的干擾,更好地對應(yīng)聘者能力與崗位需求進行匹配。然而,偏見和歧視也可能通過算法更隱晦地內(nèi)嵌到?jīng)Q策系統(tǒng)當(dāng)中,悄無聲息地侵蝕就業(yè)公平。

          如何讓AI算法背后的就業(yè)歧視無處藏身?日前,在上海市政協(xié)一場重點提案督辦專題調(diào)研暨辦理推進會上,各方積極建言,為就業(yè)領(lǐng)域的AI應(yīng)用立起公平公正的防護盾。

          AI算法會不會產(chǎn)生就業(yè)歧視?

          當(dāng)前,我國互聯(lián)網(wǎng)招聘平臺快速發(fā)展。數(shù)據(jù)顯示,一些頭部平臺累計服務(wù)求職者已超過1億人次,求職有效簡歷數(shù)超過1.5億份,認證企業(yè)接近1000萬家。大量招聘需求與求職需求聚集于平臺,帶來了海量的數(shù)據(jù)積累。目前,已經(jīng)有多家招聘平臺開始探索通過AI算法為數(shù)據(jù)賦能。

          “根據(jù)招聘平臺的數(shù)據(jù),結(jié)合當(dāng)前社會上人工智能和大數(shù)據(jù)技術(shù)的發(fā)展,無論是用人單位還是中介部門,在雇傭決策上對算法技術(shù)的依賴性是不斷提高的?!鄙虾J形W(wǎng)信辦總工程師楊海軍說道。

          在AI算法為人力資源開發(fā)帶來效能提升的同時,一些隱蔽的風(fēng)險也引發(fā)了各界的關(guān)注。

          翁文磊曾長期在上海市婦聯(lián)工作,密切關(guān)注女性就業(yè)的她注意到,如今的勞動者在求職時面臨的情形和以往已大不相同?!盎ヂ?lián)網(wǎng)招聘平臺的簡歷篩選過程基于人工智能算法,可以從已知數(shù)據(jù)中準確推測求職者的婚育狀況,同時其自主學(xué)習(xí)能力會放大社會固有的部分性別偏見。”

          “盡管目前還沒有發(fā)現(xiàn)典型案例,但也要未雨綢繆?!蔽涛睦诒硎?,互聯(lián)網(wǎng)招聘平臺帶來的性別就業(yè)歧視更加隱蔽,只能通過長期招聘結(jié)果進行反推。“同時,勞動法規(guī)制性別歧視的主體是雇主,即便互聯(lián)網(wǎng)招聘平臺可以承擔(dān)責(zé)任,其責(zé)任的履行也存在很大困難。”針對潛在的歧視風(fēng)險,她認為,是否存在歧視要根據(jù)數(shù)據(jù)來看,還要加強對典型案例的數(shù)據(jù)分析,進而及時提出預(yù)警。

          多管齊下共同監(jiān)管

          就業(yè)是最大的民生,就業(yè)歧視事關(guān)身在職場的每個勞動者,如何未雨綢繆防患于未然,各方都已行動起來,保障就業(yè)領(lǐng)域的公平公正。

          針對算法新問題,楊海軍介紹,國家先后出臺了《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》,并持續(xù)開展專項行動,深入排查整治各類企業(yè)的算法濫用現(xiàn)象。“主要是對企業(yè)算法的機制、機理、管理制度、應(yīng)用場景,它的標簽體系、用戶權(quán)益保護等多個方面進行深入檢查?;旧纤蓄^部的招聘企業(yè)都納入了檢查名單?!睏詈\娬f。

          在監(jiān)管發(fā)力的同時,技術(shù)手段也在加強。上海市科委總工程師趙健介紹,在2021年人工智能科技支撐專項項目審核中,上海專門部署了人工智能社會實驗體系建設(shè)專題,強調(diào)要科學(xué)評估人工智能的社會綜合影響,有效推進人工智能應(yīng)用的標準建設(shè),輔助支持人工智能應(yīng)用的公共治理的決策。

          防止AI可能存在偏見和歧視的問題,一些機構(gòu)已經(jīng)在這方面進行有力的探索?!氨热缟虾5钠纸瓕嶒炇医ㄔO(shè)了軟硬結(jié)合的蒲公英人工智能治理開放平臺——OpenEGlab,目標是要打造系統(tǒng)、實用的人工智能倫理治理的基礎(chǔ)設(shè)施。”趙健介紹說,該平臺包括規(guī)則風(fēng)險展示、評測框架等五大部分。其中,公平公正的維度,涵蓋了基于性別、地域、年齡、職業(yè)健康的歧視內(nèi)容。同時,建立了基于評測框架敏感問題的評測語料庫,數(shù)據(jù)量達到百萬級,公平公正部分的數(shù)據(jù)量將達到十萬級,目前對一些國內(nèi)外大模型安全性初步開展了評測。

          讓勞動者參與算法治理

          “來伊份目前有7800名正式員工,95%是女性,40歲至50歲的員工占50%?!泵鎸β殘錾系木蜆I(yè)歧視,上海來伊份股份有限公司總裁郁瑞芬常用自己的經(jīng)歷來回應(yīng)偏見:“我是1999年創(chuàng)業(yè)的,雇用了大批下崗工人,她們是可愛的人,工作認真努力?!?/p>

          郁瑞芬認為,年齡、性別等都不應(yīng)是職場的門檻?!拔覀冮T店的大多數(shù)員工都是上海本地阿姨,企業(yè)對她們在電腦技能方面進行了培訓(xùn)提升,目前每年發(fā)放工資8.5億元左右?!?/p>

          “女性構(gòu)成了就業(yè)和勞動力市場的半邊天,但晉升遭遇天花板、同工不同酬等就業(yè)歧視仍然存在于一些企業(yè)之中?!蔽涛睦谡J為,經(jīng)濟轉(zhuǎn)型,特別是新技術(shù)對就業(yè)的替代效應(yīng),女性是有優(yōu)勢的?!艾F(xiàn)在就業(yè)不僅僅要肌肉,更重要的是協(xié)調(diào)能力?!?/p>

          上海財經(jīng)大學(xué)法學(xué)院教授吳文芳在對數(shù)字時代人工智能算法治理與勞動者權(quán)益保障進行研究時曾撰文指出,針對算法可能導(dǎo)致歧視以及算法權(quán)力濫用的問題,需要通過算法治理工具予以規(guī)制。

          吳文芳表示,應(yīng)關(guān)注勞動者參與算法治理的具體路徑構(gòu)建,以及勞動者新型權(quán)利的賦權(quán)進路。同時,應(yīng)強化工會的專業(yè)化賦能及與第三方專業(yè)機構(gòu)的制度化協(xié)作,積極參與算法設(shè)計、算法公開等監(jiān)管程序。

          本報記者 裴龍翔

          《工人日報》(2023年09月12日 04版)

        (責(zé)編:李雨潼)

        版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。

        亚洲制服丝袜av一区二区三区,亚洲无码视频在线a,成人片无码中文字幕免费,亚洲无码91视频