人工智能招聘的弊端(人工智能对人员招聘的影响)

人工智能招聘的弊端(人工智能对人员招聘的影响)

在我从事科技工作的早期,后来,作为开发人工智能驱动的招聘软件的人,我亲身体验了人工智能和机器学习如何在招聘中产生偏见。 在几种不同的情况下,我看到人工智能在招聘中经常会放大和加剧人们通常会乐观地“解决”的相同问题。 在我们认为这有助于消除偏见或增加候选人漏斗方面的“公平性”的情况下,我们常常会惊讶地发现在实践中发生了完全相反的情况。

今天,我在 CodePath 的角色将我的 AI 和工程背景与我们致力于为来自低收入或少数族裔社区的计算机科学专业学生提供更多获得技术工作机会的承诺相结合。 当我考虑我们的非营利组织实现这一目标的方法时,我经常想知道我们的学生是否遇到了我在过去十年中亲眼目睹的与人工智能相关的招聘偏见。 虽然人工智能在有效地自动化某些任务方面具有巨大潜力,但我认为它不适用于某些具有复杂数据集和结果不明确的细微、高度主观的用例。 招聘就是这些用例之一。

依靠人工智能进行招聘可能弊大于利。

这不是设计使然。 人际关系经理通常怀着良好的意愿开始人工智能驱动的招聘流程,即希望将申请人缩减为最合格和最适合公司文化的人。 这些经理将人工智能视为一种值得信赖的客观方式,可以从大量的电子简历中筛选出最优秀、最聪明的人。

当这些经理认为人工智能经过训练可以避免人类可能表现出的相同偏见时,就会出现错误。 在许多情况下, 这不会发生 ; 在其他情况下,人工智能设计师在不知不觉中训练算法采取直接影响某些求职者的行动——例如自动拒绝女性申请人或名字与少数民族或宗教少数群体相关的人。 许多人际关系部门的领导都震惊地发现,他们的招聘计划正在采取的行动,如果由人执行,就会导致解雇。

通常,在职位上做出招聘决定的好心人会尝试修复造成偏见的编程错误。 我还没有看到有人破解那个密码。

有效的人工智能需要三件事:明确的输出和结果; 干净、清晰的数据; 和大规模数据。 当 AI 能够访问大量客观测量的数据时,它的功能很好,这在招聘中是找不到的。 关于候选人的教育背景、以前的工作经验和其他技能组合的数据通常混杂着复杂的、交叉的偏见和假设。 样本很小,数据无法衡量,结果也不清楚——这意味着人工智能很难知道什么有效,什么无效。

不幸的是,人工智能重复这些有偏见的动作越多,它学会执行它们的次数就越多。 它创建了一个记录偏见的系统,这不是大多数有远见的公司想要投射给潜在员工的形象。 这就是为什么伊利诺伊州、马里兰州和纽约市 制定法律 禁止在招聘决策中使​​用人工智能,以及为什么美国平等就业机会委员会正在 调查 人工智能工具在招聘中的作用。 这也是为什么沃尔玛、Meta、耐克、CVS Health 等公司在 The Data & Trust Alliance 的保护伞下, 正在 根除 他们自己的招聘算法中的偏见。

简单的解决方案是完全避免在招聘中使用人工智能。 虽然这个建议对于那些希望自动执行日常任务的时间紧迫的公司来说可能看起来很麻烦,但并非必须如此。

例如,由于 CodePath 优先考虑低收入、少数族裔学生的需求,我们不能冒险使用有偏见的 AI 系统来匹配我们项目的毕业生与**技术雇主。 因此,我们创建了自己的兼容性工具,该工具不使用 AI 或 ML,但仍可大规模使用。 它仅依赖于纯粹客观数据、简单量规或兼容性评分的自动化——所有这些都由对招聘偏见问题敏感的人监控。 我们也只自动化自我报告或严格量化的数据,从而减少偏见的可能性。

对于那些觉得不得不在招聘决策中依赖人工智能技术的公司,有一些方法可以减少潜在危害:

1. 认识到人工智能驱动的招聘工具存在偏见的风险

不要陷入人工智能将是正确的想法。 算法只有与创造(和监督)算法的人一样无偏见。 一旦数据集和算法成为值得信赖的来源,人们就不再需要对其进行监督。 挑战技术。 质疑它。 测试一下。 找出这些偏见并将其根除。

公司应考虑创建由招聘和技术专业人员组成的团队,以监控数据、根除问题并不断挑战人工智能产生的成果。 这些团队中的人可能能够发现潜在的偏见并消除它们或补偿它们。

2. 注意你的数据源——以及你的责任

如果你的 AI 被训练审查的**数据集来自历史上雇用少数女性或少数族裔的公司,当算法吐出相同的有偏见的结果时不要感到震惊。 问问自己:我对这些数据感到满意吗? 我是否与源共享相同的值? 这些问题的答案允许对数据集或启发式进行仔细评估。

了解您的公司有责任拥有公正的招聘系统也很重要。 即使多注意这些可能性也可以帮助减少潜在的伤害。

3. 使用更简单、直接的方法来确定候选人与空缺职位之间的兼容性

大多数兼容性解决方案不需要任何神奇的 AI 或复杂的启发式方法,有时回归基础实际上可以更好地工作。 抛开人工智能的概念,问问自己:我们都同意的事情是增加还是减少了这个角色的兼容性?

仅将 AI 用于招聘决策中的客观兼容性指标,例如自我报告的技能或针对角色明确需求的信息匹配。 这些提供了干净、清晰的数据集,可以准确和公平地测量。 将更复杂、模棱两可或细微差别的过滤器留给最了解求职者成功所需的知识和技能组合的实际人员。 例如,考虑使用自动化某些流程但仍允许人工监督或最终决策的软件。 仅自动化您可以公平衡量的那些功能。

鉴于人工智能驱动的招聘工具对最容易产生偏见的人的生活产生了多大影响,我们有责任让他们极其谨慎地使用这项技术。 充其量,它可能会导致公司无法承担重新填补职位的时间和费用的糟糕的招聘决定。 在最坏的情况下,它可以阻止聪明、有才华的人在高需求领域获得高薪工作,不仅限制了他们的经济流动性,也限制了他们过上幸福、成功生活的权利。

的联合创始人兼首席技术官 CodePath ,这是一家非营利组织,旨在通过改变代表性不足的少数族裔和服务不足的人群的大学计算机科学教育来创造技术多样性。 他还是 认知世界 智囊团的成员。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/9453.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫

相关推荐

  • excel怎么复制条件格式(如何让条件格式复制 -手把手教你)

    如果您在 Microsoft Excel 中使用条件格式来自动设置符合条件的单元格格式,您可能希望将相同的规则应用于工作表或工作簿的另一部分。 无需创建新规则,只需复制它即可。 您可能有 一个基于日期的条件格式规则 ,您希望将其用于其他日期。 或者,您可能有 一个查找重复项的规则, 需要在另一张纸上使用它。 我们将向您展示三种在 Excel 中复制条件格式并…

    2022-03-12 投稿
    00
  • win10怎么改文件后缀名(电脑文件后缀名隐藏了怎么显示)

    很多用户在使用电脑过程中经常会遇到一些小问题,需要通过修改文件后缀名来修复,接下来分享win10修改文件后缀名步骤。   1、打开需要修改文件的文件夹,如下图所示:   2、勾选找到文件拓展名,如下图所示:   3、找到需要修改的文件,如下图所示:   4、修改成自己需要的格式,在弹出窗口中点击“是”按钮,如下图所示:   5、不久文件就会变成相应的格式,如…

    2022-08-03 投稿
    00
  • 浏览器activex控件被阻止怎么办(浏览器阻止插件安装的解决办法)

    我们在通过浏览器办理业务时,会是是到要加载、安装插件的情况,如银行类的安全输入插件、打印插件、flash插件等等,在加载安装过程中会出现“由于无法验证发布者,所以windows已经阻止此软件”的提示。如下图: 此时我们可以通过以下设置来进行解决。 当浏览器出现这个提示的时候,单击控件栏,选择“安装ActiveX控件”,正常情况下,可以成功安装控件。如果因为“…

    2022-04-30 投稿
    00
  • ps打不开图片是什么原因(无法打开PS的两种情况及解决方法)

    PS软件打不开,我们可以先尝试,在电脑桌面PS图标上,点击鼠标右键,以管理员身份运行,试下是不是权限问题。 如果以管理员身份运行依旧无法正常打开PS软件,大致2种情况,我们来依次排除。 第一种情况,原来正常使用,突然无法打开。 分析,原来正常使用突然不能打开,我们使用排除法: 1、换一个PS文件,排除是当前打开的文件错误造成PS无法打开,还是其他原因; 2、…

    2022-04-29
    00
  • win10电脑dns配置错误怎么修复(Win10 DNS异常上不了网该怎么办)

    Win10系统现在是我们经常使用的系统,我们可能会遇到使用Win10系统时DNS解析无法访问网络的问题。一旦计算机中没有网络,就无法使用,因此我们必须尽快解决这个问题,以避免影响我们的工作。让小编将从Win10系统DNS不寻常的网络中向您提供解决方案。具体步骤: 1.首先,我们单击左下角的“开始”菜单按钮,右键单击“命令提示符”选项。   &nbs…

    2022-04-10 投稿
    00

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信