人工智能招聘的弊端(人工智能对人员招聘的影响)

人工智能招聘的弊端(人工智能对人员招聘的影响)

在我从事科技工作的早期,后来,作为开发人工智能驱动的招聘软件的人,我亲身体验了人工智能和机器学习如何在招聘中产生偏见。 在几种不同的情况下,我看到人工智能在招聘中经常会放大和加剧人们通常会乐观地“解决”的相同问题。 在我们认为这有助于消除偏见或增加候选人漏斗方面的“公平性”的情况下,我们常常会惊讶地发现在实践中发生了完全相反的情况。

今天,我在 CodePath 的角色将我的 AI 和工程背景与我们致力于为来自低收入或少数族裔社区的计算机科学专业学生提供更多获得技术工作机会的承诺相结合。 当我考虑我们的非营利组织实现这一目标的方法时,我经常想知道我们的学生是否遇到了我在过去十年中亲眼目睹的与人工智能相关的招聘偏见。 虽然人工智能在有效地自动化某些任务方面具有巨大潜力,但我认为它不适用于某些具有复杂数据集和结果不明确的细微、高度主观的用例。 招聘就是这些用例之一。

依靠人工智能进行招聘可能弊大于利。

这不是设计使然。 人际关系经理通常怀着良好的意愿开始人工智能驱动的招聘流程,即希望将申请人缩减为最合格和最适合公司文化的人。 这些经理将人工智能视为一种值得信赖的客观方式,可以从大量的电子简历中筛选出最优秀、最聪明的人。

当这些经理认为人工智能经过训练可以避免人类可能表现出的相同偏见时,就会出现错误。 在许多情况下, 这不会发生 ; 在其他情况下,人工智能设计师在不知不觉中训练算法采取直接影响某些求职者的行动——例如自动拒绝女性申请人或名字与少数民族或宗教少数群体相关的人。 许多人际关系部门的领导都震惊地发现,他们的招聘计划正在采取的行动,如果由人执行,就会导致解雇。

通常,在职位上做出招聘决定的好心人会尝试修复造成偏见的编程错误。 我还没有看到有人破解那个密码。

有效的人工智能需要三件事:明确的输出和结果; 干净、清晰的数据; 和大规模数据。 当 AI 能够访问大量客观测量的数据时,它的功能很好,这在招聘中是找不到的。 关于候选人的教育背景、以前的工作经验和其他技能组合的数据通常混杂着复杂的、交叉的偏见和假设。 样本很小,数据无法衡量,结果也不清楚——这意味着人工智能很难知道什么有效,什么无效。

不幸的是,人工智能重复这些有偏见的动作越多,它学会执行它们的次数就越多。 它创建了一个记录偏见的系统,这不是大多数有远见的公司想要投射给潜在员工的形象。 这就是为什么伊利诺伊州、马里兰州和纽约市 制定法律 禁止在招聘决策中使​​用人工智能,以及为什么美国平等就业机会委员会正在 调查 人工智能工具在招聘中的作用。 这也是为什么沃尔玛、Meta、耐克、CVS Health 等公司在 The Data & Trust Alliance 的保护伞下, 正在 根除 他们自己的招聘算法中的偏见。

简单的解决方案是完全避免在招聘中使用人工智能。 虽然这个建议对于那些希望自动执行日常任务的时间紧迫的公司来说可能看起来很麻烦,但并非必须如此。

例如,由于 CodePath 优先考虑低收入、少数族裔学生的需求,我们不能冒险使用有偏见的 AI 系统来匹配我们项目的毕业生与**技术雇主。 因此,我们创建了自己的兼容性工具,该工具不使用 AI 或 ML,但仍可大规模使用。 它仅依赖于纯粹客观数据、简单量规或兼容性评分的自动化——所有这些都由对招聘偏见问题敏感的人监控。 我们也只自动化自我报告或严格量化的数据,从而减少偏见的可能性。

对于那些觉得不得不在招聘决策中依赖人工智能技术的公司,有一些方法可以减少潜在危害:

1. 认识到人工智能驱动的招聘工具存在偏见的风险

不要陷入人工智能将是正确的想法。 算法只有与创造(和监督)算法的人一样无偏见。 一旦数据集和算法成为值得信赖的来源,人们就不再需要对其进行监督。 挑战技术。 质疑它。 测试一下。 找出这些偏见并将其根除。

公司应考虑创建由招聘和技术专业人员组成的团队,以监控数据、根除问题并不断挑战人工智能产生的成果。 这些团队中的人可能能够发现潜在的偏见并消除它们或补偿它们。

2. 注意你的数据源——以及你的责任

如果你的 AI 被训练审查的**数据集来自历史上雇用少数女性或少数族裔的公司,当算法吐出相同的有偏见的结果时不要感到震惊。 问问自己:我对这些数据感到满意吗? 我是否与源共享相同的值? 这些问题的答案允许对数据集或启发式进行仔细评估。

了解您的公司有责任拥有公正的招聘系统也很重要。 即使多注意这些可能性也可以帮助减少潜在的伤害。

3. 使用更简单、直接的方法来确定候选人与空缺职位之间的兼容性

大多数兼容性解决方案不需要任何神奇的 AI 或复杂的启发式方法,有时回归基础实际上可以更好地工作。 抛开人工智能的概念,问问自己:我们都同意的事情是增加还是减少了这个角色的兼容性?

仅将 AI 用于招聘决策中的客观兼容性指标,例如自我报告的技能或针对角色明确需求的信息匹配。 这些提供了干净、清晰的数据集,可以准确和公平地测量。 将更复杂、模棱两可或细微差别的过滤器留给最了解求职者成功所需的知识和技能组合的实际人员。 例如,考虑使用自动化某些流程但仍允许人工监督或最终决策的软件。 仅自动化您可以公平衡量的那些功能。

鉴于人工智能驱动的招聘工具对最容易产生偏见的人的生活产生了多大影响,我们有责任让他们极其谨慎地使用这项技术。 充其量,它可能会导致公司无法承担重新填补职位的时间和费用的糟糕的招聘决定。 在最坏的情况下,它可以阻止聪明、有才华的人在高需求领域获得高薪工作,不仅限制了他们的经济流动性,也限制了他们过上幸福、成功生活的权利。

的联合创始人兼首席技术官 CodePath ,这是一家非营利组织,旨在通过改变代表性不足的少数族裔和服务不足的人群的大学计算机科学教育来创造技术多样性。 他还是 认知世界 智囊团的成员。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/9453.html

(1)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
白马号白马号

相关推荐

  • u盘插手机上没反应是怎么回事(u盘损坏的7个原因)

    1、U盘坏了。这种可能性最大,因为U盘属于消耗品,虽然寿命通常可以在10年以上,但如果保存不当或者存在质量问题,损坏的可能性还是很大的。U盘坏掉了,插在手机上自然读不出来。     判断U盘是否正常的方法也有很多,最简单的就是插在电脑上,看电脑能不能正确读取就行了。还有的U盘是一体两用的,有一个USB Type-A接口用来连接电脑;和一个…

    2022-05-05 投稿
    00
  • 笔记本数字键盘使用技巧与快捷键

    笔记本数字键盘使用技巧与快捷键 什么是数字键盘 数字键盘的使用技巧 数字键盘的快捷键 什么是数字键盘 数字键盘是笔记本电脑上的一个独立的数字输入设备,通常位于键盘的右侧。它与键盘分离,可以通过USB接口或无线连接进行连接。数字键盘通常包括数字键、运算符和其他常用符号。 数字键盘的使用技巧 使用数字键盘可以提高输入数字的速度和准确性。以下是一些数字键盘使用技巧…

    2023-06-16
    00
  • 穿越火线烟雾头怎么调win7?指南教你调整穿越火线烟雾头在win7中的方法

    穿越火线烟雾头怎么调win7?指南教你调整穿越火线烟雾头在win7中的方法 了解穿越火线烟雾头 win7系统下调整烟雾头效果 调整烟雾头的注意事项 了解穿越火线烟雾头 烟雾头是《穿越火线》游戏中的一种特殊效果,可以在游戏中使用烟雾弹来制造烟雾,从而掩盖自己的行踪。烟雾头的效果可以通过调整游戏设置来改变。 win7系统下调整烟雾头效果 要在win7系统下调整穿…

    2023-06-02
    00
  • pe启动盘怎么做大白菜(win10U盘启动操作步骤图解)

    u盘制作pe系统启动盘,我们的Windows操作系统,有的时候可能会经常遇到一些系统崩溃,或者是蓝屏黑屏的一些情况,那么,通过在这个时候大部分蓝屏黑屏,我们可能重启一下,或者下载一些软件,顶多你的安全模式或者修复模式下,是进行一下修复,也基本上算完成了。但是,另外一种情况就是比较烦人的,就是系统崩溃,那遇到这样的一种情况的话,我们应该怎么办?接下来我们已经没…

    2022-08-11
    00
  • 内存条怎么装正反(台式机内存条正确插法)

    电脑卡顿想要升级硬件,主要围绕的不是固态就是内存条,固态这里就不说了,毕竟添加个固态硬盘也不是什么难事。而今天要跟大家聊聊的是内存条,升级这一硬件可以加快电脑的运行速度,提升我们的使用体验。形象点形容,内存条对于电脑来说就像是仓库一般,你的电脑上存放多少东西就得看你的仓库有多大,于是就会有不少朋友会加装内存条形成双通道,那么怎么安装呢? 一、选购内存条 1、…

    2022-08-04
    00

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信