康旗股份携手Visa,以数据驱动银行信用卡中心加速发展闪说:匿名社交不是引导人们阴暗面,而是为了更好的保留自由小米石头要慌!360旗下旗舰扫地机器人新品360 S7首次曝光Random42发布全新移动VR教育应用 可在人体细胞中旅行索尼高管Shawn Layden:我们正在看到VR 2.0游戏的进步VITAS与AR&T合作,用Magic Leap One为临终者提供临终关怀微软开源工具Light Capture为HoloLens带来更自然的照明效果微软专利用缓存和基图渲染实现移动VR低延迟、高质量视觉显示Facebook专利用分段电极阵列+眼动追踪实现高分辨率VR显示效果巴西Beenoculus与Pico合作,加速VR英语培训教育高性价比办公打印机,联想小新M7268 给你惊喜亿欧智库重磅发布农业科技报告,促进农业发展,推动乡村振兴总部位于多伦多的VR/AR开发商Dark Slope今天宣布,该工作室已获得150万美元的种子轮融资,这将支持推出其首款线下的VR游戏Scarygirl Mission Maybee。 根据NaStartup Asteroid旨在通过AR软件和硬件套件重塑人机界面健身初创公司YUR推出VR卡路里追踪器JobsInXR创始人表示:缺乏人才是阻碍XR增长的主要原因Windows VR更新:用户可以在VR环境中运行常规桌面应用宝马用VR眼镜训练学徒 以实践虚拟现实生产2019情人节礼物首选,福玛特这次真的走心了深耕物联网领域的核心要点,2019年慕尼黑上海电子展为您揭秘
  • 首页 > 信息融合频道 > 人工智能

    亚马逊用AI筛简历却发现它对女性有偏见 最终关闭

    2018年10月11日 14:13:45   来源:网易科技

      10月11日消息,据路透社报道,亚马逊的机器学习专家们发现了一个大问题,他们的新人工智能(AI)招聘引擎似乎不喜欢女性,为此将其关闭。YpN中文科技资讯

    5.jpgYpN中文科技资讯

      图片来源:云图视觉YpN中文科技资讯

      五名知情人士表示,自2014年以来,这个团队始终在开发电脑程序以审查求职者的简历,目的是将寻找顶尖人才的任务自动化。自动化一直是亚马逊在电子商务领域占据主导地位的关键,无论是在配送中心内部还是制定价格决策时。YpN中文科技资讯

      知情人士说,亚马逊的试验性招聘工具使用AI给应聘者打分,分数从一星到五星不等,就像购物者给亚马逊网站上的产品打分一样。其中一人说:“每个人都想要这个‘圣杯’。亚马逊真的想将其打造成引擎,给它100份简历,它会列出前五人,我们会聘用他们。”YpN中文科技资讯

      但到2015年,亚马逊意识到其新系统并没有对软件开发人员和其他技术职位求职者进行性别中立式的评估。这是因为,亚马逊的电脑模型经过了培训,通过观察过去10年被提交给该公司的简历找出固有模式,并以此来审查应聘者。其中大部分简历来自男性,这也反映了男性在科技行业占主导地位的现状。YpN中文科技资讯

      实际上,亚马逊的系统告诉自己,男性求职者更受青睐。这套系统对简历中含有“女子象棋俱乐部队长”等语句中的“女子”一词特别敏感。据知情人士透露,它还下调了两所女子学院的毕业生评级,但他们没有具体说明这些学校的名字。YpN中文科技资讯

      亚马逊编辑了这些程序,使它们对这些特定的术语保持中立。但上述知情人士说,这并不能保证其AI系统不会设计出其他可能被证明具有歧视性的筛选求职者的方法。据不愿透露姓名的知情人士说,亚马逊最终在去年年初解散了团队,因为高管们对这个项目感到失望。YpN中文科技资讯

      亚马逊的招聘人员在搜索新员工时查看了该工具提供的推荐信息,但他们表示,他们从来没有仅仅依靠其排名来做出判断。亚马逊拒绝就招聘引擎或其面临的挑战置评,但该公司表示,它致力于打造职场多样性和平等。YpN中文科技资讯

      路透社率先报道了亚马逊的实验,它提供了一个关于机器学习局限性的案例研究。此外,希尔顿全球控股公司(Hilton)和高盛集团(Goldman Sachs)等越来越多的大公司也在寻求将招聘流程的部分自动化。人才软件公司CareerBuilder 2017年的一项调查显示,约55%的美国人力资源经理表示,在未来5年内,AI将成为他们常规工作的一部分。YpN中文科技资讯

      雇主们始终梦想利用科技来扩大招聘网络,以减少对人类招聘者主观意见的依赖。但卡内基梅隆大学教授机器学习知识的计算机科学家尼哈尔·沙赫(Nihar Shah)认为,他们还有很多工作要做。沙赫表示:“如何确保算法是公平的,如何确保算法是真正可以解释的,实现这些目标都还十分遥远。”YpN中文科技资讯

      对于全球最大的在线零售商亚马逊来说,这项试验开始于一个关键时刻。由于低成本计算能力的激增,机器学习在技术领域获得了越来越大的吸引力。监管文件显示,亚马逊的人力资源部门即将开始大举招聘:自2015年6月以来,该公司的全球员工人数增加了两倍多,达到575700人。YpN中文科技资讯

      因此,亚马逊在其爱丁堡工程中心成立了新的团队,其所属人员已经增加至12人。知情人士说,他们的目标是开发能够迅速在网络上搜索并发现有价值应聘者的AI系统。该团队创建了500个计算机模型,它们重点关注特定的工作功能和地点。他们教授每个模型辨认出现在过去求职者简历上的约5万个术语。YpN中文科技资讯

      知情人士说,这些算法学会了新的技能,知道求职者普遍具备的技能没有什么意义,比如编写各种计算机代码的能力。相反,这项技术更青睐于那些用男性工程师简历上更常见的动词来描述自己的人,比如“执行”和“捕获”等。YpN中文科技资讯

      性别偏见不是这种招聘工具唯一的问题。这些知情人士说,支撑模型判断的数据也存在问题,这意味着不合格的求职者通常会被推荐到各种工作岗位上。他们说,由于这项技术几乎是随机反馈结果,亚马逊关闭了这个项目。?YpN中文科技资讯

      其他公司也在采取积极措施,这突显出雇主迫切希望利用AI招聘人才的心态。盐湖城附近的初创企业HireVue首席执行官凯文·帕克(Kevin Parker)表示,自动化正在帮助企业超越长期依赖的招聘网络。他的公司分析了求职者在视频面试中的讲话和面部表情,以减少对简历的依赖。他的公司客户包括联合利华(Unilever PLC)和希尔顿(Hilton)。YpN中文科技资讯

      高盛已创建了自己的简历分析工具,试图将求职者与“最适合”的部门匹配起来。微软旗下的全球最大职业社交网站LinkedIn走得更远,它根据求职者在其网站上发布的简历是否符合职位要求,向雇主提供基于算法的求职者排名。不过,LinkedIn Talent Solutions副总裁约翰·杰辛(John Jersin)表示,这项服务并不能取代传统的招聘方式。他说:“我当然不会相信今天的任何AI系统会自行做出招聘决定,这项技术还没有成熟。”YpN中文科技资讯

      有些活动人士表示,他们担心AI的透明度。美国公民自由联盟(American Civil Liberties Union)目前正在挑战一项法律,该法律允许对那些测试招聘网站歧视算法的研究人员和记者提起刑事诉讼。该组织Racial Justice Program律师雷切尔·古德曼(Rachel Goodman)说:“我们越来越关注算法公平性这一问题。”YpN中文科技资讯

      尽管如此,古德曼和其他对AI持批评态度的人承认,要就自动招聘问题对雇主提起诉讼可能极其困难,毕竟求职者可能永远不会知道雇主在使用AI招聘。至于亚马逊,该公司设法从失败的AI实验中吸取教训。知情人士表示,亚马逊现在使用“经过大量稀释的”的招聘引擎版本,来帮助完成一些基本工作,包括从数据库中剔除重复的求职者资料。YpN中文科技资讯

      另一名知情人士称,爱丁堡的亚马逊新团队将对自动招聘进行另一次尝试,这次的重点集中在多样化上。YpN中文科技资讯

      来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

      如发现本站文章存在问题,提供版权疑问、身份证明、版权证明、联系方式等发邮件至news@citnews.com.cn。

    [上传用户: H088]
    分享到微信

    推荐

    5G的终极形态,以及它的摆渡人

    最近发现不少朋友都患上了“过年聊天焦虑症”,并列出了小孩不问作业、未婚不问对象、成人不问股市之类的“现代春节礼仪”。既然聊啥都尬,不如聊聊5G吧。

    新闻

    【重磅】《2018年中国物流科技行业“百强榜”》发布

      2018年是物流科技行业的“新时代年”,经历了“618”、“双11”、“双12”、“黑五”以及各电商周年庆等电商促销的

    融合

    日本酒店解雇机器人员工,AI想抢人类饭碗没那么容易

     2018年年初,日本东京一家名为“Henn-na Hotel”的酒店“请”了243个机器人负责管理与服务。顾客从入住到离店,全程都由机器人引导与陪伴,在当时还引起了不小的轰动。然而时至今日不过一年时间,这家酒店却选择了对机器人“裁员”:解雇了一半的机器人。其中最主要的原因是,自从“雇用”了这些机器人员工之后,它们给酒店制造出的问题远远超过它们能够解决的问题。

    创投

    消息称猫眼娱乐延长IPO时间表 另有3个基石投资者加入

    1月21日,外媒报道称,文件显示,猫眼娱乐延长IPO时间表,另有3个基石投资者加入。