背线
剑桥大学的研究人员周日辩称，声称使用人工智能来避免性别和种族偏见的招聘工具可能不会改善招聘的多样性，而且实际上可能会使这些偏见永久化。作为一种使用技术快速解决更深层次问题的方法。
展示了 Google Vision 的人工智能面部识别系统。
盖蒂图片社
关键解说
在发表的一篇论文中 哲学与技术，研究人员查看了几家提供人工智能招聘工具的公司的声明，其中许多声称通过隐藏候选人的姓名、性别和其他标识符来消除偏见并促进多样性，其中一些 排名 候选人基于简历扫描、在线评估和对申请人的言语和面部表情的分析。
研究人员——剑桥大学性别研究中心的两位教授——认为，这些工具实际上可能会促进招聘的统一性，因为它们再现了“理想候选人”的文化偏见，而“理想候选人”在历史上一直是白人或欧洲男性。
这些工具也可能不会提高多样性，因为它们基于过去的公司数据，因此可能会提升与当前员工最相似的候选人。
剑桥大学性别研究中心的研究合著者兼研究员埃莉诺·德拉格 (Eleanor Drage) 在一份声明中表示，“对这些产品的制造或测试方式几乎没有责任”，并补充说该技术可能是“危险的” “关于招聘如何‘去偏见’和更公平的错误信息的来源。”
重要报价
“通过声称可以使用人工智能从招聘过程中消除种族主义、性别歧视和其他形式的歧视，这些公司将种族和性别减少到微不足道的数据点，而不是塑造我们如何在世界上行动的权力系统， ”德拉格在一份声明中说。
切线
亚马逊在 2018 年宣布将 停止 在发现系统强烈歧视女性后，使用人工智能招聘工具审查求职者的简历。 这是因为它所依赖的计算机模型是根据过去10年提交给公司的简历开发的，这些简历大多来自男性应聘者。
关键背景
组织越来越多地转向人工智能来帮助管理招聘流程。 在一个 2020民意调查 在周日论文的作者引用的 300 多名人力资源领导者中，咨询公司 Gartner 发现 86% 的雇主在招聘实践中使用虚拟技术，自 Covid-19 大流行迫使许多人将工作转移到网上以来，这一趋势已经加速。 虽然一些公司认为人工智能可以提供更具成本效益和时间效益的招聘流程，但有些公司 专家 已可以选用 发现 这些系统倾向于通过复制现实世界的现有偏见来促进而不是消除种族和性别偏见的招聘。 几位美国议员已经 针对 解决人工智能系统中的偏见，因为技术继续快速发展，并且几乎没有法律对其进行监管。 白宫本周发布 一份“人工智能权利法案蓝图”认为，招聘中使用的算法被发现“反映和再现了现有的不受欢迎的不平等”或嵌入了新的“偏见和歧视”。 该蓝图没有法律约束力或官方政府政策，呼吁公司确保人工智能不歧视或侵犯数据隐私，并让用户了解何时使用该技术。
需要注意什么
在推荐列表中，Sunday's 的作者 哲学与技术 论文建议开发人工智能技术的公司关注更广泛的、系统性的不平等，而不是“个体化的偏见实例”。 例如，他们建议软件开发人员检查用于对候选人进行分类、处理和分类的类别，以及这些类别如何通过依赖关于性别和种族的某些假设来促进歧视。 研究人员还认为，人力资源专业人士应该尝试了解人工智能招聘工具的工作原理以及它们的一些潜在局限性。
令人惊讶的事实
欧盟将人工智能驱动的招聘软件和绩效评估工具列为“高风险” 草案 人工智能的法律框架，这意味着这些工具将受到更严格的审查，并且需要满足某些合规要求。
延伸阅读
DC希望领导与AI偏见的斗争 （Axios公司）
资料来源：https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/