• 首页 > 企业IT频道 > 人工智能

    ISC 2017人工智能论坛:从安全角度重新审视AI风险

    2017年09月16日 20:29:40   来源:中国网

      近年来,人工智能逐步走进人们的视野,成为人们茶余饭后津津乐道的话题。凭借深度学习技术的“井喷式”发展,各种硬件产品中开始融入人工智能技术。人工智能大势所趋,这已经成为很多业内人士的共识。

      9月13日,在以“万物皆变,人是安全的尺度”为主题的第五届中国互联网安全大会(ISC2017)人工智能技术应用安全论坛上,美国乔治亚大学教授、乔治亚安全与隐私学院院长李康、中科院软件所研究员苏璞睿、清华大学副教授张超、360 Team Serious团队成员肖奇学等众多业界专家齐聚一堂,从安全的角度重新审视人工智能技术的发展、风险、并对广泛的智能攻防安全研究进行了深入探讨及交流。

      安全行业需要广义的人工智能

      美国乔治亚大学教授、乔治亚安全与隐私学院院长李康在演讲中强调,安全行业需要广义的人工智能,每一个攻击做到极致就是在创建机器。

    image.png

      图:美国乔治亚大学教授李康在人工智能论坛上发表演讲

      “人工智能我不能只局限外部的实现,当然取决于具体的应但是如果你的输出是被用户来控制的,那我觉得必须要回头来看看。”李康表示,目前黑产都在使用机器学习,这对安全是非常大的挑战。

      360 Team Serious团队成员肖奇学认为,深度学习技术虽然能够使工作学习更加便捷高效,甚至推动了新一轮人工智能浪潮,但其在系统实现中的软件安全问题容易被大众所忽略。他结合软件系统漏洞的自动化发现和分析相关经验,详细讲解了学习语音和图像识别系统的攻击实例。

      肖奇学指出,大部分AI应用系统都基于已有的主流AI框架实现。AI系统框架以及AI系统所依赖软件的安全漏洞,将可能对AI系统导致非常严重的影响。

      黑客最害怕未知技术

      安全行业的智能其中一个体现是在漏洞挖掘,分析和利用中的自动化。中科院软件所研究员苏璞睿认为,深度学习或者说漏洞挖掘自动化方面,自动化是主线。

      “人工智能不仅仅可以改进安全,实际上安全也有助于完善人工智能。”苏璞睿说,机器学习只是解决中间的特定的场景和核心的问题,未来机器学习在漏洞方面的研究,需要思考怎么样寻找一些特定的漏洞研究的场景和问题。

      此前参加了2016年美国DARPA组织的CGC比赛并闯入决赛的清华大学副教授张超从三个方面分享了人工智能在攻防方向上的最前沿研究:首先是人做攻防遇到的一些问题或者研究领域存在的问题一个简单分析;其次是如何实现CGC自动化攻防;最后是在这个AI时代怎样用AI技术辅助攻防。

      卫达安全CEO张长河认为,黑客最害怕的防御技术,是来源于未知的技术。他在演讲中介绍了一种叫移动目标防御的新技术。这种技术就是SDN的思想,软件定义网络,软件定义安全,可以保证动态变换的时候业务不受影响。

      当前,人工智能技术已经逐渐成为人们生活不可或缺的利器,其安全问题及应用方向的开拓也就自然成为阻挡在人们面前的一堵高墙,本届ISC2017人工智能技术应用安全论坛上,各位业界专家的专业知识与独到见解给更多的业内人士以深刻启示。相信这些经验和观点分享,将很快落到实处,推动人工智能技术的正向高速发展。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时探行数字人注册免费试用

    第三代骁龙8s平台,“恰逢其时”的“新生代旗舰”之选

    日前,高通举办新品发布会,推出了骁龙8旗舰移动平台诞生以来的第一款新生代旗舰平台:第三代骁龙8s,这是高通对骁龙旗舰移动平台的一次层级扩展,同时意味着广大消费者未来在旗舰手机市场也将会有更多丰富的选择。

    新闻探行AI智能外呼系统 节省80%人力成本

    敢闯技术无人区 TCL实业斩获多项AWE 2024艾普兰奖

    近日,中国家电及消费电子博览会(AWE 2024)隆重开幕。全球领先的智能终端企业TCL实业携多款创新技术和新品亮相,以敢为精神勇闯技术无人区,斩获四项AWE 2024艾普兰大奖。

    企业IT探行AI客服 24小时无休机器人接待

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费探行AI视频 快速生成真人营销视频

    “纯臻4K 视界焕新”——爱普生4K 3LCD 激光工程投影

    2024年3月12日,由爱普生举办的主题为“纯臻4K 视界焕新”新品发布会在上海盛大举行。

    研究探行AI整体解决方案 全国招募代理

    2024全球开发者先锋大会即将开幕

    由世界人工智能大会组委会、上海市经信委、徐汇区政府、临港新片区管委会共同指导,由上海市人工智能行业协会联合上海人工智能实验室、上海临港经济发展(集团)有限公司、开放原子开源基金会主办的“2024全球开发者先锋大会”,将于2024年3月23日至24日举办。