• 首页 > 信息融合频道 > 人工智能

    谷歌CEO皮查伊:对AI危险的担忧“合理合法”

    2018年12月13日 11:54:40   来源:腾讯科技

    7.jpgQaA中文科技资讯

      (图片来源:云图视觉)QaA中文科技资讯

      12月13日消息,据外媒报道,作为全球领先人工智能(AI)公司的负责人,谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)本周在接受《华盛顿邮报》采访时表示,对该技术有害应用的担忧“非常合理”,但应信任科技行业能够负责任地监管其使用。QaA中文科技资讯

      皮查伊于美国当地时间周二下午接受《华盛顿邮报》采访时表示,新的AI工具,比如无人驾驶汽车和疾病检测算法等创新的支柱,都要求企业设置道德护栏,并考虑该技术如何会被滥用。对此,皮查伊说:“我认为,科技公司必须认识到,不能继续采用技术开发然后修复这样的传统模式,我认为它已经行不通。”QaA中文科技资讯

      皮查伊说,科技巨头们必须通过“自己的机构”确保AI不会伤害人类。他称自己对这项技术的长期潜在好处非常乐观,但他对AI潜在风险的担忧与其他技术批评人士类似。他们都认为,这项技术可能被用于监视、致命武器和错误信息传播等。其他科技公司高管,如SpaceX和特斯拉(Tesla)创始人埃隆·马斯克(Elon Musk),都提出了更可怕的预测,称AI可能“比核武器危险得多”。QaA中文科技资讯

      谷歌的AI技术是该公司所有业务的基础,皮查伊誓言在未来一年解决其AI引发的问题。谷歌如何决定部署AI,也引发了最近的员工骚动。QaA中文科技资讯

      皮查伊呼吁进行自我监管之前,曾前往美国国会作证,议员们威胁要对技术的滥用施加限制,包括限制传播错误信息和仇恨言论的渠道。皮查伊承认AI会构成潜在威胁十分罕见,因为这位出生于印度的工程师经常吹捧自动化系统的影响,并相信这些系统可以在不受人类控制的情况下学习和做出决定。QaA中文科技资讯

      皮查伊在接受采访时说,世界各地的立法者仍在努力控制AI的影响,并希望对其进行政府监管。他说:“有时我担心人们低估了中长期变化的规模,我认为问题实际上相当复杂。”包括微软在内的其他科技巨头,最近也接受了AI应受到监管的观点,监管者包括开发这项技术的公司和监督该技术使用的政府。QaA中文科技资讯

      但皮查伊解释说,如果处理得当,AI可以带来“巨大的好处”,包括帮助医生通过对健康数据的自动扫描来检测眼科疾病和其他疾病。他说:“早期对一项技术进行监管是很困难的,但我确实认为公司应该进行自我监管。这就是为什么我们始终在致力于制定AI原则的原因。我们也许没有把每件事都做好,但我们认为,开始一场对话非常重要。”QaA中文科技资讯

      皮查伊于2004年加入谷歌,11年后成为其首席执行官。今年1月份,他将AI称为“人类正在从事的最重要的事情之一”,并表示,对人类社会来说,AI可能比“电或火”更重要。但是,对能够独立运行的机器进行完美竞赛重新唤起了人们的担忧,即硅谷的企业精神,如Facebook曾经所说的“快速行动,打破常规”,这可能促使强大而不完美的技术导致工作岗位流失,并伤害到人们。QaA中文科技资讯

      在谷歌内部,其AI努力也引发了争议:今年早些时候,该公司受到各方批评,因为它在国防部的一项合同中开展的工作涉及到AI技术,该合同可以自动标记汽车、建筑物和其他物体,供军事无人机使用。许多员工为此愤而辞职,因为谷歌正从“战争业务”中获利。QaA中文科技资讯

      当被问及员工的反应时,皮查伊告诉《华盛顿邮报》,员工是“我们文化的重要组成部分”。他说:“他们肯定有意见,这是重要的信号,这也是我所珍惜的东西。”QaA中文科技资讯

      今年6月份,在宣布谷歌明年不会续签与国防部的合同后,皮查伊公布了一套AI伦理原则,其中包括全面禁止开发可能被用来造成损害、损害人权或“违反国际公认监视准则”的AI系统。QaA中文科技资讯

      谷歌还因发布可能被坏人滥用的AI工具而受到批评。谷歌在2015年发布了其内部机器学习软件TensorFlow,帮助加速了AI的大规模开发,但它也被用于自动制作逼真的假视频,这些视频被用于骚扰和传播虚假信息。QaA中文科技资讯

    300.jpgQaA中文科技资讯

      (图片来源:云图视觉)QaA中文科技资讯

      谷歌和皮查伊为此进行了辩护,称限制这项技术的使用可能会减少公众的监督,并阻止开发者和研究人员以有益的方式提高其能力。皮查伊在接受《华盛顿邮报》采访时说:“随着时间的推移,随着技术的进步,我认为重要的是围绕道德和偏见进行对话,并同时推动进步。”QaA中文科技资讯

      他补充称:“从某种意义上说,你确实想要建立伦理框架,让非计算机科学家尽早参与这一领域的工作。你必须以更具代表性的方式让人类参与进来,因为这项技术将影响人类。”QaA中文科技资讯

      皮查伊将围绕AI设置参数的早期工作比作学术界在遗传学研究早期所做的努力。他说:“许多生物学家开始划定这项技术的发展方向。学术界进行了大量的自我监管,我认为这一点非常重要。”QaA中文科技资讯

      这位谷歌高管表示,围绕自主武器的开发将是最重要的,这一问题令科技高管和员工感到愤怒。今年7月,代表谷歌等公司的数千名科技工作者签署了一项承诺,反对开发可编程、用于杀死人类的AI工具。QaA中文科技资讯

      皮查伊还表示,他在《华盛顿邮报》的一篇报道中发现了一些令人憎恶、充满阴谋论的YouTube视频,并表示该公司将努力改进其检测问题内容的系统。这些视频自今年4月出现以来,在YouTube上已经被观看了数百万次。里面讨论了民主党人希拉里·克林顿(Hillary Clinton)和她的长期助手胡玛·阿贝丁(Huma Abedin)袭击、杀害和喝下一名女孩血液的指控,尽管其毫无根据。QaA中文科技资讯

      皮查伊说,他没有看过这些视频,他是在国会听证会上被问及这些视频的。他拒绝透露,YouTube在这一领域的缺陷是否由于检测系统受限所致,还是由于评估特定视频是否应该被删除的政策所致。但他补充说:“你将看到我们在2019年继续采取更多行动。”QaA中文科技资讯

      来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

      如发现本站文章存在问题,提供版权疑问、身份证明、版权证明、联系方式等发邮件至news@citnews.com.cn。

    [上传用户: L001]
    分享到微信

    推荐

    新闻

    特斯拉发布首份影响力报告:帮助防止了400万吨二氧化

    4月16日消息,据国外媒体报道,当地时间周一,特斯拉发布了该公司有史以来第一份“影响力报告”(Impact Report),该报告衡量并量化了该公司的产品和运营对环境及社区的影响。

    互联网+

    特斯拉已开始交付3.5万美元版Model 3 首批幸运者确认

    4月16日消息,据国外媒体报道,电动汽车厂商特斯拉在2016年3月底推出了廉价电动汽车Model 3,并在2017年开始向用户交付,但售价最低的标准续航版Model 3,却迟迟未能送到消费者手中,预订者们对这一版本的Model 3也是期待已久。

    融合

    日本酒店解雇机器人员工,AI想抢人类饭碗没那么容易

     2018年年初,日本东京一家名为“Henn-na Hotel”的酒店“请”了243个机器人负责管理与服务。顾客从入住到离店,全程都由机器人引导与陪伴,在当时还引起了不小的轰动。然而时至今日不过一年时间,这家酒店却选择了对机器人“裁员”:解雇了一半的机器人。其中最主要的原因是,自从“雇用”了这些机器人员工之后,它们给酒店制造出的问题远远超过它们能够解决的问题。

    创投

    从1700亿跌到67亿,乐视网最后一天:9亿资金赌明天

     从2010年上市,到成为创业板“一哥”,凭借眼花缭乱的“生态化反”,乐视网在资本市场上缔造了一个又一个神话,其市值更是一度高达1700亿。