新工宝引领“互联网+灵活就业”时代 为行业注入新动力专业办公神机,TCL办公智屏三项颠覆性设计,重新定义办公大屏数智增长,绝味鸭脖爆品营销“人工智能+” ,新品爆一脖39天卖了15亿《龙之信条 2》评测,影驰 RTX 4070 SUPER 星曜搭配DLSS 即可畅玩4K!蔡怀军:以“智”提“质”,文化和科技融合的芒果思考神策数据:三大能力解读,释放小程序分析的真正价值摩托罗拉Edge 50 Ultra手机渲染:骁龙8s Gen3芯片,配柔和桃等三种颜色谷歌Pixel8手机将引入Gemini Nano本地模型:可总结录音、生成信息2024全球高端手机(600-799美元)出货量预估增长17%:苹果、华为引领1TB+独家双模双向卫星通信,Find X7 Ultra 卫星通信版预售开启顺丰控股 2023 年营收 2584 亿元,同比下降 3.39%传元戎成为长城汽车第二智驾供应商,靠激进的端到端投入谷歌DeepMind推出“超人类”AI系统SAFE,擅长事实核查,节约成本并提高准确性雷军把小爱同学喊崩了:小米SU7发布会触发全国小米音箱谷歌发布图像局部重绘项目ObjectDrop 插入物体和环境完美融合长城汽车2023年营收1,732亿元 同比增长26.12%周鸿祎:打算开源360AI浏览器 让国内所有大模型都能支持超过20万字AI21发布世界首个Mamba的生产级模型Jamba 支持256K上下文长度怪兽充电 2023 年第四季度营收同比下降 18.3%天猫魔屏C2新品发布,终身会员投影仪引领行业格局, 亮相中国网络视听大会
  • 首页 > 企业IT频道 > 人工智能

    AI计算:GPU上岸,IPU崛起

    2020年10月19日 18:32:58   来源:Ai芯天下

      前言:

      AI近些年的大火,直接促进了CPU和GPU的发展,而英伟达的GPU真正借此迅速成为AI市场的主流产品之一,其势头甚至盖过了CPU。

      而AI应用需要专门的处理器,而IPU正是这样的处理器。目前,AI在各行各业均得到广泛应用,IPU可以基于自身优势为世界的智能化进程增添不竭动力。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      英伟达专注的GPU优势逐渐缩小

      从专注图像渲染崛起的英伟达的GPU,走的也是相当于ASIC的技术路线,但随着游戏、视频渲染以及AI加速需要的出现,英伟达的GPU也在向着GPGPU的方向演进。

      当硬件更多的需要与软件生态挂钩时,市场大多数参与者便会倒下。在竞争清理过后,GPU形成了如今的双寡头市场,并且步入相当成熟的阶段。

      ASIC本身的成本、灵活性缺失,以及应用范围很窄的特点,都导致它无法采用最先进制程: 即便它们具备性能和能效优势,一旦无法采用最先进制程,则这一优势也将不再明显。

      为保持其在GPU领域的寡头地位,使得英伟达必须一直保持先进的制程工艺,保持其通用性,但是要牺牲一定的效能优势。

      相比于来自类GPU的竞争,英伟达不应该忽视Graphcore的IPU,特别是Graphcore一直都在强调其是为AI而生,面向的应用也是CPU、GPU不那么擅长的AI应用。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      利用AI计算打侧面竞争战

      不管CPU还是GPU都无法从根本上解决AI问题,因为AI是一个面向计算图的任务、与CPU的标量计算和GPU的矢量计算区别很大。

      而另一边的IPU,则为AI计算提供了全新的技术架构,同时将训练和推理合二为一,兼具处理二者工作的能力。

      作为标准的神经网络处理芯片,IPU可以支持多种神经网络模型,因其具备数以千计到数百万计的顶点数量,远远超过GPU的顶点规模,可以进行更高潜力的并行计算工作。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      计算加上数据的突破可以让IPU在原生稀疏计算中展现出领先IPU 10-50倍的性能优势,到了数据稀疏以及动态稀疏时,IPU就有了比GPU越来越显著的优势。

      此外,如果是在IPU更擅长的分组卷积内核中,组维度越少,IPU的性能优势越明显,总体而言,有4-100倍的吞吐量提升。

      在5G网络切片和资源管理中需要用到的强化学习,用IPU训练吞吐量也能够提升最多13倍。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      两种芯片势能英伟达与Graphcore的较量

      Graphcore成立于2016年,是一家专注于机器智能、同时也代表着全新计算负载的芯片制造公司,其包括IPU在内的产品研发擅长大规模并行计算、稀疏的数据结构、低精度计算、数据参数复用以及静态图结构。

      英伟达的潜在竞争对手Graphcore的第二代IPU在多个主流模型上的表现优于A100 GPU,两者将在超大规模数据中心正面竞争。

      未来,IPU可能在一些新兴的AI应用中展现出更大的优势。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      第二代IPU相比第一代IPU有两倍峰值算力的提升,在典型的CV还有NLP的模型中,第二代IPU相比第一代IPU则展现出了平均8倍的性能提升。

      如果对比英伟达基于8个最新A100 GPU的DGX-A100,Graphcore 8个M2000组成的系统的FP32算力是DGX-A100的12倍,AI计算是3倍,AI存储是10倍。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      AI计算未来有三种计算平台

      第一种平台是CPU,它还会持续存在,因为一些业务在CPU上的表现依然不错;

      第二种平台是GPU,它还会持续发展,会有适合GPU的应用场景。

      第三种平台是就是Graphcore的IPU。

      IPU旨在帮助创新者在AI应用上实现新的突破,帮助用户应对当前在CPU、GPU上表现不太好的任务或者阻碍大家创新的场景。”卢涛副总指出。

      目前GPU在全球已是大规模的商用部署,其次是Google的TPU通过内部应用及TensorFlow的生态占第二大规模,IPU处于第三,是量产的、部署的平台。

      与此同时,Graphcore也在中国积极组建其创新社区。Graphcore已在微信、知乎、微博和GitHub开通了官方频道,旨在与开发者、创新者、研究者更好地交流和互动。

      关于未来的AI计算领域,未来会是 “CPU、GPU、IPU并行” 的时代,GPU或部分CPU专注于业务场景的实现和落地,而IPU专为AI创新者带来更多突破。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      构建生态链条IPU仍在路上

      IPU想要在AI计算中拥有挑战GPU地位的资格,除了在性能和价格上面证明自己的优势之外,还需要在为机器学习框架提供的软件栈上提供更多选择,获得主流AI算法厂商的支持。

      在标准生态、操作系统上也需要有广泛的支持,对于开发者有更方便的开发工具和社区内容的支持,才能从实际应用中壮大IPU的开发生态。

      一个AI芯片从产出到大规模应用必须要经过一系列的中间环节,包括像上面提到的支持主流算法框架的软件库、工具链、用户生态等等,打通这样一条链条都会面临一个巨大挑战。

      目前申请使用Graphcore IPU开发者云的主要是商业用户和高校,个人研究者比较少。IPU开发者云支持当前一些最先进和最复杂的AI算法模型的训练和推理。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      和本世纪初的GPU市场一样,在AI芯片市场步入弱编程阶段,如今百家争鸣的局面预计也将很快结束,市场在一轮厮杀后会剩下为数不多的参与者做最终对决。

      现在要看的是在发展初期的逐一击破阶段,Graphcore是否真有定义并主控第三类芯片的魄力了。

      不过从创新的架构到芯片再到成为革命性的产品,Graphcore从芯片到落地之间的距离,需要易用的软件和丰富的工具来支持,特别是对软件生态依赖程度比较到的云端芯片市场。

    AI芯天下丨趋势丨向AI求生的路上,GPU已上岸,IPU在崛起

      结尾:

      IPU不是GPU,这个可能是最大的一个挑战,但同时也是最大的一个机会。IPU并不是GPU的替代品或者类似品,所以不能拿GPU的逻辑来套用IPU的逻辑。

      近两年,AI 芯片出现了各种品类的井喷,可以预计未来IPU在各类AI应用中将具有更大的优势。

      文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

    即时探行数字人注册免费试用

    第三代骁龙8s平台,“恰逢其时”的“新生代旗舰”之选

    日前,高通举办新品发布会,推出了骁龙8旗舰移动平台诞生以来的第一款新生代旗舰平台:第三代骁龙8s,这是高通对骁龙旗舰移动平台的一次层级扩展,同时意味着广大消费者未来在旗舰手机市场也将会有更多丰富的选择。

    新闻探行AI智能外呼系统 节省80%人力成本

    敢闯技术无人区 TCL实业斩获多项AWE 2024艾普兰奖

    近日,中国家电及消费电子博览会(AWE 2024)隆重开幕。全球领先的智能终端企业TCL实业携多款创新技术和新品亮相,以敢为精神勇闯技术无人区,斩获四项AWE 2024艾普兰大奖。

    企业IT探行AI客服 24小时无休机器人接待

    重庆创新公积金应用,“区块链+政务服务”显成效

    “以前都要去窗口办,一套流程下来都要半个月了,现在方便多了!”打开“重庆公积金”微信小程序,按照提示流程提交相关材料,仅几秒钟,重庆市民曾某的账户就打进了21600元。

    3C消费探行AI视频 快速生成真人营销视频

    “纯臻4K 视界焕新”——爱普生4K 3LCD 激光工程投影

    2024年3月12日,由爱普生举办的主题为“纯臻4K 视界焕新”新品发布会在上海盛大举行。

    研究探行AI整体解决方案 全国招募代理

    2024全球开发者先锋大会即将开幕

    由世界人工智能大会组委会、上海市经信委、徐汇区政府、临港新片区管委会共同指导,由上海市人工智能行业协会联合上海人工智能实验室、上海临港经济发展(集团)有限公司、开放原子开源基金会主办的“2024全球开发者先锋大会”,将于2024年3月23日至24日举办。