• 首页 > 稿件库 > 2018归档

    算法也有偏见?纽约市通过美国首个算法问责法案

    2017年12月21日 11:00:28   来源:创头条

      算法在我们生活中发挥着越来越重要的作用,它们往往出自硅谷,但对它们进行问责的努力则可能来自另一个中心:纽约市。上周,纽约市议会一致通过一项法案,以解决算法歧视问题。这是美国首次对算法制定措施。

      这个正在等待纽约市长Bill de Blasio将其签署为法律的算法问责法案成立了一个专门工作组,以研究城市机构如何使用算法来做出影响纽约人生活的决策,以及这些算法是否对人有年龄、种族、宗教、性别、性取向或国籍方面的歧视。工作组的报告也将探讨如何使这些决策制定过程变得让公众可以理解。

      纽约非盈利公司ProPublica调查了有种族偏见的算法,它们被用来评估被告的犯罪风险。上述法案的发起人、纽约市议员James Vacca说他受到了该调查的启发。

      “我的目的在于透明化和问责。”Vacca说

      之前,该法案有一个更彻底的版本,规定市政机构要公布所有用于“追踪服务”(targeting services)或“对人施加惩罚或维护治安”的算法的源代码,并让它们接受公众的“自我测试”。在10月份举行的一次市政厅听证会上,市长办公室的代表表示担心这种规定将威胁纽约人的隐私和政府的网络安全。

      该法案是市议会在上周就算法提出的两项举措之一。上周四,卫生和公共安全委员会就纽约市的取证方法举行了一场听证会,包括首席法医办公室的犯罪实验室针对难以分析的DNA样本开发的有争议的工具。

      在9月份详细披露的ProPublica/纽约时报调查中,科学专家和前犯罪实验室员工质疑该实验室针对复杂的DNA样本创建的一个算法。

      这款软件名为“司法统计工具”(FST),美国其他实验室从未采用过它。

      纽约市议员、健康委员会主席Corey Johnson引用了ProPublica调查的两个主要结果:FST的开发者已经承认该程序的一个关键输入的误差范围为30%,以及该程序不考虑家庭成员可能会共享DNA。

      纽约市不再在新案件中使用这个工具。但出席听证会的官员说,他们认为没必要重审过去数年里依赖这项技术的数千起刑事案件。

      “你是否愿意审查那些涉及测试非常小的混合物的案件,或者是否对在每个分配到实验室的案件中所使用的所有方法和科学都充满信心?”Johnson问官员。

      “我们完全有信心,”纽约市首席验尸官Barbara Sampson博士回答。

      多年来,该算法的源代码一直处于保密状态。为此,ProPublica提交了一份申请,以解除对该算法的保护令。10月,一名联邦法官批准了该申请,然后ProPublica公布了源代码。

      辩护律师在听证会上作证,批评首席法医办公室,认为他们DNA工具的开发过程不透明,而这很危险。

      9月,一些人联合写信给纽约州检察长,要求调查犯罪实验室和审查之前的案件。检察长Catherine Leahy Scott尚未表示是否会进行追究。与此同时,纽约州法医科学委员会(它负责监督州内实验室的取证方法)在秘密会议上讨论了这些批评。这些会议不对公众开放,委员会委员也不能谈论它们。

      听证后,Johnson表示,法医证词与辩护律师证词之间的不一致让他感到担忧,他打算进行进一步的探索。

      “这是一个非常非常重要的问题,我们必须确保所使用的方法具有科学上的合理性,用适当的方式对其加以验证,让它们对公众和辩护律师保持透明,确保民众对司法系统更加信任,”Johnson说,“通过提出更多的问题,我们有望做到这些,并可能考虑在未来立法。”

      编译:邓桂华。本文来自propublica

      来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。有事反馈发邮件至news#citnews.com.cn(发送时将#替换为@)。

    [上传用户: ]
    分享到微信

    推荐

    AI赋能,驱动未来——晓芯智能首届AI峰会将在杭州召

    2018年8月12日,聚芯•赋能——2018晓芯•AI峰会暨全国14大运营中心启动仪式将在杭州福朋喜来登酒店隆重举行。引领电销行业变革的先行者,再一次用行动证明了领导企业的风范。接下来,小编就带大家一探晓芯首届AI峰会。

    新闻

    福布斯“30位30岁以下精英榜”发布 三点一刻CEO蔡浩

    2018 年 8 月 2 日,全球知名的财经商业杂志《福布斯》正式公布 2018 年中国 30 位 30 岁以下精英”榜单,国内最大的智能协同营销平台三点一刻创始人兼CEO蔡浩宇入选,被评为市场营销和广告领域的精英。

    互联网+

    人民创投链塔智库联合发布《2018中国区块链行业白皮

    2018年被称为“区块链元年”,犹如当年“互联网+”一样,各行各业都在讲“区块链+”,行业进入爆发增长态势。

    融合

    腾讯安全2018年Q2季度互联网安全报告:挖矿木马成安

    近日,腾讯安全反病毒实验室发布了《2018年Q2季度互联网安全报告》(以下简称报告)。《报告》显示:与第一季度相比,拦截病毒数整体呈下降趋势,但病毒木马借热点传播事件频发。

    创投

    无忧精英网调查显示,44%的白领每周喝咖啡超过3杯

    咖啡已经成为小资生活的一种体现,同时,也是新一代上班族的“充电”标配。