人工智能招聘的弊端(人工智能对人员招聘的影响)

人工智能招聘的弊端(人工智能对人员招聘的影响)

在我从事科技工作的早期,后来,作为开发人工智能驱动的招聘软件的人,我亲身体验了人工智能和机器学习如何在招聘中产生偏见。 在几种不同的情况下,我看到人工智能在招聘中经常会放大和加剧人们通常会乐观地“解决”的相同问题。 在我们认为这有助于消除偏见或增加候选人漏斗方面的“公平性”的情况下,我们常常会惊讶地发现在实践中发生了完全相反的情况。

今天,我在 CodePath 的角色将我的 AI 和工程背景与我们致力于为来自低收入或少数族裔社区的计算机科学专业学生提供更多获得技术工作机会的承诺相结合。 当我考虑我们的非营利组织实现这一目标的方法时,我经常想知道我们的学生是否遇到了我在过去十年中亲眼目睹的与人工智能相关的招聘偏见。 虽然人工智能在有效地自动化某些任务方面具有巨大潜力,但我认为它不适用于某些具有复杂数据集和结果不明确的细微、高度主观的用例。 招聘就是这些用例之一。

依靠人工智能进行招聘可能弊大于利。

这不是设计使然。 人际关系经理通常怀着良好的意愿开始人工智能驱动的招聘流程,即希望将申请人缩减为最合格和最适合公司文化的人。 这些经理将人工智能视为一种值得信赖的客观方式,可以从大量的电子简历中筛选出最优秀、最聪明的人。

当这些经理认为人工智能经过训练可以避免人类可能表现出的相同偏见时,就会出现错误。 在许多情况下, 这不会发生 ; 在其他情况下,人工智能设计师在不知不觉中训练算法采取直接影响某些求职者的行动——例如自动拒绝女性申请人或名字与少数民族或宗教少数群体相关的人。 许多人际关系部门的领导都震惊地发现,他们的招聘计划正在采取的行动,如果由人执行,就会导致解雇。

通常,在职位上做出招聘决定的好心人会尝试修复造成偏见的编程错误。 我还没有看到有人破解那个密码。

有效的人工智能需要三件事:明确的输出和结果; 干净、清晰的数据; 和大规模数据。 当 AI 能够访问大量客观测量的数据时,它的功能很好,这在招聘中是找不到的。 关于候选人的教育背景、以前的工作经验和其他技能组合的数据通常混杂着复杂的、交叉的偏见和假设。 样本很小,数据无法衡量,结果也不清楚——这意味着人工智能很难知道什么有效,什么无效。

不幸的是,人工智能重复这些有偏见的动作越多,它学会执行它们的次数就越多。 它创建了一个记录偏见的系统,这不是大多数有远见的公司想要投射给潜在员工的形象。 这就是为什么伊利诺伊州、马里兰州和纽约市 制定法律 禁止在招聘决策中使​​用人工智能,以及为什么美国平等就业机会委员会正在 调查 人工智能工具在招聘中的作用。 这也是为什么沃尔玛、Meta、耐克、CVS Health 等公司在 The Data & Trust Alliance 的保护伞下, 正在 根除 他们自己的招聘算法中的偏见。

简单的解决方案是完全避免在招聘中使用人工智能。 虽然这个建议对于那些希望自动执行日常任务的时间紧迫的公司来说可能看起来很麻烦,但并非必须如此。

例如,由于 CodePath 优先考虑低收入、少数族裔学生的需求,我们不能冒险使用有偏见的 AI 系统来匹配我们项目的毕业生与**技术雇主。 因此,我们创建了自己的兼容性工具,该工具不使用 AI 或 ML,但仍可大规模使用。 它仅依赖于纯粹客观数据、简单量规或兼容性评分的自动化——所有这些都由对招聘偏见问题敏感的人监控。 我们也只自动化自我报告或严格量化的数据,从而减少偏见的可能性。

对于那些觉得不得不在招聘决策中依赖人工智能技术的公司,有一些方法可以减少潜在危害:

1. 认识到人工智能驱动的招聘工具存在偏见的风险

不要陷入人工智能将是正确的想法。 算法只有与创造(和监督)算法的人一样无偏见。 一旦数据集和算法成为值得信赖的来源,人们就不再需要对其进行监督。 挑战技术。 质疑它。 测试一下。 找出这些偏见并将其根除。

公司应考虑创建由招聘和技术专业人员组成的团队,以监控数据、根除问题并不断挑战人工智能产生的成果。 这些团队中的人可能能够发现潜在的偏见并消除它们或补偿它们。

2. 注意你的数据源——以及你的责任

如果你的 AI 被训练审查的**数据集来自历史上雇用少数女性或少数族裔的公司,当算法吐出相同的有偏见的结果时不要感到震惊。 问问自己:我对这些数据感到满意吗? 我是否与源共享相同的值? 这些问题的答案允许对数据集或启发式进行仔细评估。

了解您的公司有责任拥有公正的招聘系统也很重要。 即使多注意这些可能性也可以帮助减少潜在的伤害。

3. 使用更简单、直接的方法来确定候选人与空缺职位之间的兼容性

大多数兼容性解决方案不需要任何神奇的 AI 或复杂的启发式方法,有时回归基础实际上可以更好地工作。 抛开人工智能的概念,问问自己:我们都同意的事情是增加还是减少了这个角色的兼容性?

仅将 AI 用于招聘决策中的客观兼容性指标,例如自我报告的技能或针对角色明确需求的信息匹配。 这些提供了干净、清晰的数据集,可以准确和公平地测量。 将更复杂、模棱两可或细微差别的过滤器留给最了解求职者成功所需的知识和技能组合的实际人员。 例如,考虑使用自动化某些流程但仍允许人工监督或最终决策的软件。 仅自动化您可以公平衡量的那些功能。

鉴于人工智能驱动的招聘工具对最容易产生偏见的人的生活产生了多大影响,我们有责任让他们极其谨慎地使用这项技术。 充其量,它可能会导致公司无法承担重新填补职位的时间和费用的糟糕的招聘决定。 在最坏的情况下,它可以阻止聪明、有才华的人在高需求领域获得高薪工作,不仅限制了他们的经济流动性,也限制了他们过上幸福、成功生活的权利。

的联合创始人兼首席技术官 CodePath ,这是一家非营利组织,旨在通过改变代表性不足的少数族裔和服务不足的人群的大学计算机科学教育来创造技术多样性。 他还是 认知世界 智囊团的成员。

声明:所有白马号原创内容,未经允许禁止任何网站及个人转载、采集等一切非法引用。本站已启用原创保护,有法律保护作用,否则白马号保留一切追究的权利。发布者:白马号,转转请注明出处:https://www.bmhysw.com/article/9453.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫

相关推荐

  • Win10设备属性里没有电源管理选项怎么办

    Win10设备属性里没有电源管理选项怎么办 原因分析 解决方案 总结 原因分析 在Win10设备属性里找不到电源管理选项,通常有以下几种原因: 设备驱动问题 系统设置问题 硬件兼容性问题 解决方案 针对不同的原因,可以采取不同的解决方案。 设备驱动问题 如果设备的驱动程序不兼容或者没有安装,就会出现在设备属性里找不到电源管理选项的情况。此时可以尝试以下解决方…

    2023-09-03
    00
  • 电脑26键盘图片大全及解释(键盘键位图详细介绍)

    电脑键盘可以说是电脑重要的硬件之一,而电脑键盘键位图也非常重要,如果清理键盘或者键盘某个按键掉了不知道怎么装回去的时候,我们就可以参照电脑键盘键位图修复了.下面小编就给大家介绍下电脑键盘键位图。 1.F1到F12叫功能区,通常F1是帮助键,在各个地方按下它会显示帮助。F2是改名,选中一个文件,按F2键,进入改名状态。F3一般是查找下一个。左上角ESC是退出键…

    2022-07-17 投稿
    00
  • 在硬盘上安装Windows 7操作系统(将Windows 7安装到硬盘上)

    在硬盘上安装Windows 7操作系统 准备工作 安装Windows 7 安装后的操作 准备工作 在安装Windows 7之前,您需要做以下准备工作: 备份您的重要数据 获取Windows 7安装光盘或USB安装盘 确保您的计算机符合Windows 7的最低系统要求 准备好您的Windows 7产品密钥 安装Windows 7 按照以下步骤安装Windows…

    2023-05-26
    00
  • 无法玩穿越火线游戏怎么办?问题解答和解决方法

    无法玩穿越火线游戏怎么办?问题解答和解决方法 可能的原因 解决方案 软件问题 硬件问题 总结 可能的原因 穿越火线是一款非常受欢迎的网络游戏,但有时会出现无法正常运行的问题。 以下是可能的原因: 电脑配置不足 游戏文件损坏或丢失 网络连接问题 游戏服务器问题 解决方案 如果您无法运行穿越火线游戏,请尝试以下解决方案: 软件问题 如果您的电脑配置足够强大,但游…

    2023-06-12
    00
  • gpt分区怎么改mbr分区(全网最详细gpt转mbr分区图文教程)

    由于新老电脑的装机需求不一样,有些硬盘分区需要用到MBR格式,但是原先的分区格式是GPT格式,那么这篇文章就是给大家介绍详细的GPT分区和MBR分区转换教程。高版本系统降级WIN7需要操作的 1、首先进入U盘的PE桌面(网上很多PE,也可联系小编提供测试好的); 2、因转换分区,当然要备份好硬盘资料啦 3、打开桌面上“分区工具”,当前为GPT分区格式; 4、…

    2022-06-27 投稿
    00

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

联系我们

QQ:183718318

在线咨询: QQ交谈

邮件:183718318@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信