Thursday, June 13, 2024

从筛选求职者到面试打分:招聘过程使用人工智能 是否真能消除偏见?

Must read

人工智能(AI)革命已经开始,几乎扩延到人们职业和个人生活的各个方面——包括招聘。
对于人工智能应用,虽然艺术工作者担心版权受到侵犯或被替代,但企业和管理领域则越来越意识到,在供应链管理、客户服务、产品开发和人力资源管理等各个方面提高效率的可能性。
很快,所有业务领域和操作都将面临以某种形式采用人工智能的压力。然而,人工智能的本质及其处理和背后的数据,意味着人类偏见正在被嵌入到这项技术当中。
我们的研究着眼于人工智能在招聘和雇请中的使用,这一领域已广泛采用人工智能去自动筛选应聘者,并对求职者的视频面试评分。
在招聘过程中所使用的人工智能承诺,通过消除人为偏见,从而加强客观和效率。

但是,我们的研究表明,人工智能可以微妙地——有时甚至是明显地——加剧偏见。而人力资源专业人士的参与,可能会加大而非减轻这些影响。这挑战了我们的信念,即人类的监督可以遏制和调节人工智能。

放大人类偏见

虽然使用人工智能进行招聘的原因之一,是为了更为客观一致;但多项研究发现,实际上,这项技术很可能存在偏见,因为人工智能从用于训练它的数据集中学习。
如果训练数据存有缺陷,那么人工智能也会有缺陷。
支持人工智能的算法(由人类创造),可能会使数据中的偏见更糟,这些算法设计中往往包含人类偏见。
在对22位人力资源专业人士的采访中,我们发现两种常见招聘偏见——“刻板印象偏见”和“与我相似的偏见”。
当决定受到对某些群体的刻板印象影响时,例如偏爱同性候选人,就会产生刻板印象偏见,从而导致性别不平等。
而在招聘人员青睐与他们有相似背景或兴趣的候选人时,就有可能产生“和我相似”偏见。

这些偏见会严重影响招聘过程的公平。它们被嵌入到历史招聘数据中,然后用于训练人工智能系统,就又会导致有偏见的人工智能。

人工智能如今已扩延到人们职业和个人生活的许多方面。 Source: Getty / Getty Images

因此,如果过往招聘做法倾向于某些人口统计数据,人工智能将继续这样做。减轻这些偏见具有挑战性,因为算法可以根据其他相关信息的隐藏数据,推断出个人信息。例如,在男女服役时间不同的国家,人工智能可能根据其服役期推断出性别。

这种偏见的持续存在,强调了仔细规划和监督的必要性,以确保人类和人工智能所驱动的招聘过程具公平性。

人类能帮忙吗?

除了人力资源专业人士,我们还采访了17位人工智能开发人员。我们想研究如何开发一种人工智能招聘系统,能够减轻而不是加剧招聘偏见。
基于访谈,我们开发了一个模型,其中人力资源专业人员和人工智能程序员会在检查数据集和开发算法时交换信息,并质疑先入之见。
我们的研究结果表明,实施这种模型存在困难,这源于人力资源专业人员和人工智能开发人员之间存有教育、专业和人口统计学差异。
这些差异妨碍了有效的沟通、合作,甚至是相互理解。传统上,人力资源专业人士接受的是人员管理和组织行为学方面的培训,而人工智能开发人员则擅长数据科学和技术。

这些不同背景会令他们合作时,导致误解和不一致,特别是在有的国家——资源有限、专业网络也不够多样化的国家——这个问题会更为明显。

连接人力资源和人工智能

基于人工智能的招聘中的偏见问题,如果公司和人力资源行业想要解决,那么需要做出一些改变。
首先,为人力资源专业人员实施以信息系统开发和人工智能为重点的结构化培训计划至关重要。培训内容应涵盖了解人工智能的基本原理、识别人工智能系统中的偏见,以及减少这些偏见的策略。

其次,促进人力资源专业人员和人工智能开发人员之间更好的合作也很重要。公司应该创建包括人力资源和人工智能专家在内的团队。这有助于弥合沟通差距,更好协调双方的努力。

此外,开发与文化相关的数据集,对于减少人工智能系统中的偏见至关重要。人力资源专业人员和人工智能开发人员需共同努力,确保人工智能驱动的招聘流程所使用的数据多样化,能代表不同人口群体。这将有助于创造更公平的招聘实践。
最后,各国需要制定在招聘中使用人工智能的指导方针和道德标准,帮助建立信任并确保公平。各组织应在人工智能驱动的决策过程中,实施促进透明度和问责制的政策。
通过采取这些步骤,我们可以创建一个更加包容和公平的招聘系统,充分利用人力资源专业人员和人工智能开发人员的优势。

Melika Soleimani

梅西大学(Massey University)高级数据分析师

Ali Intezari

昆士兰大学(The University of Queensland)管理学高级讲师

David J Pauleen

梅西大学技术管理学教授

Jim Arrowsmith

梅西大学管理学院教授
本文作者没有为任何可能从本文获益的公司或组织工作、咨询、持有股份或接受资助,并已披露除其学术任命之外没有其他任何相关隶属关系。
欢迎下载应用程序SBS Audio,关注Mandarin。您也可以通过苹果播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。
请在  和 关注SBS中文,了解更多澳洲新闻。

Latest article