• 首页 > 产经频道 > 业界新闻

    算法也有偏见?纽约市通过美国首个算法问责法案

    2017年12月21日 11:00:28   来源:创头条

      算法在我们生活中发挥着越来越重要的作用,它们往往出自硅谷,但对它们进行问责的努力则可能来自另一个中心:纽约市。上周,纽约市议会一致通过一项法案,以解决算法歧视问题。这是美国首次对算法制定措施。

      这个正在等待纽约市长Bill de Blasio将其签署为法律的算法问责法案成立了一个专门工作组,以研究城市机构如何使用算法来做出影响纽约人生活的决策,以及这些算法是否对人有年龄、种族、宗教、性别、性取向或国籍方面的歧视。工作组的报告也将探讨如何使这些决策制定过程变得让公众可以理解。

      纽约非盈利公司ProPublica调查了有种族偏见的算法,它们被用来评估被告的犯罪风险。上述法案的发起人、纽约市议员James Vacca说他受到了该调查的启发。

      “我的目的在于透明化和问责。”Vacca说

      之前,该法案有一个更彻底的版本,规定市政机构要公布所有用于“追踪服务”(targeting services)或“对人施加惩罚或维护治安”的算法的源代码,并让它们接受公众的“自我测试”。在10月份举行的一次市政厅听证会上,市长办公室的代表表示担心这种规定将威胁纽约人的隐私和政府的网络安全。

      该法案是市议会在上周就算法提出的两项举措之一。上周四,卫生和公共安全委员会就纽约市的取证方法举行了一场听证会,包括首席法医办公室的犯罪实验室针对难以分析的DNA样本开发的有争议的工具。

      在9月份详细披露的ProPublica/纽约时报调查中,科学专家和前犯罪实验室员工质疑该实验室针对复杂的DNA样本创建的一个算法。

      这款软件名为“司法统计工具”(FST),美国其他实验室从未采用过它。

      纽约市议员、健康委员会主席Corey Johnson引用了ProPublica调查的两个主要结果:FST的开发者已经承认该程序的一个关键输入的误差范围为30%,以及该程序不考虑家庭成员可能会共享DNA。

      纽约市不再在新案件中使用这个工具。但出席听证会的官员说,他们认为没必要重审过去数年里依赖这项技术的数千起刑事案件。

      “你是否愿意审查那些涉及测试非常小的混合物的案件,或者是否对在每个分配到实验室的案件中所使用的所有方法和科学都充满信心?”Johnson问官员。

      “我们完全有信心,”纽约市首席验尸官Barbara Sampson博士回答。

      多年来,该算法的源代码一直处于保密状态。为此,ProPublica提交了一份申请,以解除对该算法的保护令。10月,一名联邦法官批准了该申请,然后ProPublica公布了源代码。

      辩护律师在听证会上作证,批评首席法医办公室,认为他们DNA工具的开发过程不透明,而这很危险。

      9月,一些人联合写信给纽约州检察长,要求调查犯罪实验室和审查之前的案件。检察长Catherine Leahy Scott尚未表示是否会进行追究。与此同时,纽约州法医科学委员会(它负责监督州内实验室的取证方法)在秘密会议上讨论了这些批评。这些会议不对公众开放,委员会委员也不能谈论它们。

      听证后,Johnson表示,法医证词与辩护律师证词之间的不一致让他感到担忧,他打算进行进一步的探索。

      “这是一个非常非常重要的问题,我们必须确保所使用的方法具有科学上的合理性,用适当的方式对其加以验证,让它们对公众和辩护律师保持透明,确保民众对司法系统更加信任,”Johnson说,“通过提出更多的问题,我们有望做到这些,并可能考虑在未来立法。”

      编译:邓桂华。本文来自propublica

      来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

      中文科技资讯倡导尊重与保护知识产权。如发现本站文章存在版权问题,烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至news@citnews.com.cn,我们将及时沟通与处理。

    [责任编辑: CIT03]
    分享到微信

    最新

    微软笔记本电脑Surface Book 2预订新增17个市场

    1月17日消息,微软刚刚宣布,该公司新版15英寸的Surface Book 2笔记本电脑现已在17个新市场接受预订,包括英国和加拿大等市场在内。

    新闻

    苹果因“降速门”面临30起集体诉讼 被指控侵犯“动产

    据科技博客9to5mac北京时间1月11日报道,苹果公司因为iPhone“降速门”面临的集体诉讼数量已经从几周前的15起增加了一倍至30起。

    互联网+

    无人零售无差别服务 移动支付成核心元素

    刚刚过去的2017年中,无人零售无疑是国内零售市场的风口,越来越多的入局者让无人零售表现出良好的发展势头。

    融合

    2018五大技术趋势:数据无处不在 AI主宰生活

    1月17日消息,据福布斯杂志报道,科技给我们现代生活的方方面面带来了翻天覆地的变化。在2018年,我们将看到无人驾驶汽车、人工智能(AI)医生和送货无人机。与许多人的想法相反,你不需要成为软件工程师或计算机科学家就能成为数字革命的领导者。更重要的是,以创新方式将现有企业问题与技术解决方案相匹配的能力。

    创投

    美国共享单车平台Jump Bikes融资1000万美元

    据外媒报道,美国共享单车平台Jump Bikes周二宣布,完成1000万美元的融资,进一步扩大无桩共享电单车服务。Jump Bikes此前曾名为Social Bicycles。