看芯片是如何帮助边缘计算落地的

2018-12-11 14:00:17 来源: 半导体行业观察

边缘计算正在走上行业舞台,虽然还处于发展的初期阶段,但其前景受到越来越多的重视,各大芯片和系统厂商都在磨刀霍霍,期待占领市场先机。

这样的背景下,由英特尔和华为等几家大企业牵头,于2016年成立了边缘计算产业联盟ECC,在成立初期,ECC总共有62家成员单位,2017年,有40多家新成员加入,总数超过100,而到2018年底,成员单位已经超过200家。

在11月底于北京举行的2018年边缘计算产业峰会上,ECC发布了边缘计算参考架构3.0。

边缘计算产业联盟理事长,沈阳自动化研究所所长于海斌先生表示,随着各界对边缘计算认识的深入,以及联盟对边缘计算的理解,我们推出了边缘计算的参考架构3.0,对边缘计算的技术体系进行更加系统的归纳总结和梳理。为了推动边缘计算行业的应用,联盟又继续发出八大测试床,至此已基本完成覆盖智能制造、智能交通、智慧水务、智慧照明、TSN+OPC UA以及边缘云平台等典型领域和技术的测试床部署与发布。

芯片厂商助力边缘计算前行

作为ECC的主要发起者,英特尔一直在芯片层面关注并推动着边缘计算的发展。目前来看,有着巨大市场增长空间和应用场景的物联网将是边缘计算的主阵地,而其中具体的应用场景还在开发和探索之中。

据英特尔物联网事业部中国区首席技术官张宇先生介绍,英特尔所提供的物联网产品是全栈式的物联网解决方案,里面涵盖了计算、存储、通信所需要的芯片。

在计算领域,该公司能够提供从低压、低功耗的凌动处理器,到灵活的酷睿处理器,再到高性能的至强处理器,通过一系列的产品组合来满足不同的物联网行业,以及不同网源对计算的要求。除了通用类型的处理器以外,人工智能的计算正在兴起,因此,英特尔也提供FPGA和一些专门用于视频加速的专用芯片。

通信领域,在去年3GPP所颁布的窄带物联网,也就是NB-IoT的标准里,英特尔也是中国的参与方,预计在明年,搭载英特尔基带5G的产品就会正式出货。

在存储方面,利用3D Xpoint技术,可以使闪存的存储密度提升10倍,存储的速度较前一代闪存提高100倍。

在用于边缘计算的人工智能产品方面,英特尔提供了相应的人工智能加速解决方案,并且是可扩展的。利用这些人工智能芯片,可以构建从智能摄像机到智能网络视频存储器NVR,以及智能视频服务器,来满足不同产品形态对计算的要求。

今年,英特尔发布了最新的Movidius Myriad X视觉加速芯片,这款芯片功耗只有2瓦,但是它能够提供1TOPS的算力。对用于边缘计算的芯片而言,它的性能功耗比的要求是要高于对数据中心里芯片性能功耗比的要求。以智能摄像头为例,智能摄像头的整机功耗大概是10~15瓦,能够分给智能芯片的功耗大概只有2瓦,所以Myriad X芯片能够满足功耗的要求,同时它又能够提供1T的算力,足以支撑一路高清视频的计算需求,利用Myriad X芯片可以搭载智能摄像头产品。

对于其他网源,比如NVR和视频服务器,对计算往往有更高的要求,能够承载的功耗也更多。对于这一类形态的产品,英特尔也提供了人工智能加速器方案,是一个PCIe插卡,可以集成多款Myriad X芯片。以Myriad X芯片为例,插卡能集成8~16个芯片,提供8T~16T的算力,而整机的功耗大概只有20~30W,开发者可以根据自己对计算性能以及功耗的要求选取不同的配置。

当然,要把一个好的设计转变成产品,光靠硬件是不够的,必须要有一个好的开发工具提供支撑。今年,英特尔发布了被称之为OpenVINO的、用于机器视觉和深度学习推理的工具套件。

张宇表示,在视频处理领域,基于深度学习和传统计算机视觉方法,两者都有自己的应用场景。因为深度学习以卷积视频网为基础,这种技术比较适合做物体的识别和检测,对于一些传统的计算机视觉方式而言,如利用直方图均衡的算法去做图像增强的时候,仍然能够得到非常好的效果。所以,在OpenVINO里面,我们对这两类方法有很好的支撑。对于深度学习,我们提供了一个深度学习的部署套件,这个套件可以帮助开发者把自己在开放网络上所设计和训练好的一个网络模型快速部署到目标平台上来执行推理的操作。目前我们能够支持像TensorFlow、Caffe、MXnet等开放网络架构,利用我们的部署套件来进行优化,在我们的部署套件里有两个模块,一个是模型优化器,一个是推理引擎。模型优化器在保证精度的前提下,对开发者所设计的网络模型进行优化,把它转变成中间表示文件,这个中间表示文件可以被推理引擎读取,推理引擎再利用相应的硬件插件来把中间表示文件下载到目标平台上运行。现在,我们的插件已经能够支持CPU插件、FPG插件,以及GPU插件和Myriad X的VPO的插件。可以根据用户不同的硬件选择,选用不同的插件。

在计算机视觉领域,英特尔预编译了OpenCV3.3,OpenCV是在计算机视觉领域应用非常广泛的函数库,这个函数库跟英特尔的渊源很深,最早是由该公司的工程师开发的,后来变成开源的项目,由俄罗斯的一家公司维护。几年前英特尔收购了这家公司,现在它是英特尔物联网事业部的一部分。据悉,该公司有很多OpenCV专家,他们继续在英特尔的硬件平台上对OpenCV进行优化,而这些优化的结果就集成在OpenVINO工具里。因此,选用OpenVINO的话,既能对深度学习进行加速,也能对传统计算机视觉加速。

在与客户的合作方面,张宇表示,除了做硬件和软件产品的开发以外,我们还积极跟合作伙伴一起去构建边缘计算的解决方案,如跟阿里云合作,在重庆跟当地的金属加工厂一起利用OpenVINO和人工智能加速器,做了一个对金属件缺陷检测的方案。利用这样的检测方案,可以把漏检率和误检率降低80%,同时检测效率大大提升。在整个解决方案里,我们通过机械臂去抓取被检测的工件,把它移动到检测的摄像头面前,转到不同的角度,在每一个角度拍摄相应的图片,这个图片会在边缘的网关设备上进行基于人工智能的处理,通过这样的处理,我们能够发现产品里的一些缺陷。

在推动边缘计算发展以及产业合作方面,英特尔持较为开放的态度,英特尔副总裁兼物联网事业部中国区总经理陈伟先生表示,我们的芯片可以用在终端、边缘,也可以用在云,但这并不等于说整个端到端的所有芯片都由英特尔一家提供。比如我们在做的VPU,在摄像机上能够加上视频分析加速器,这是英特尔的产品,但摄像机还会用到很多家公司的芯片。过去,计算发生在云端,大家容易理解,因为数据在哪儿,计算就在哪。而边缘计算的爆发,简化了英特尔物联网产品事业部的战略,我们曾经花了一些时间去探索要做什么样的芯片,今天我们的战略特别明确,要做芯片就专注于两方面,计算视觉及整合,因为计算视觉对计算要求特别高,还要不断整合。所以从这个定义来看,一定会吸取不同芯片架构所产生的数据。

除了英特尔,华为也在大力推动边缘计算的发展,不仅在系统层面,其在芯片上也在发力。

华为网络研发总裁、边缘计算产业联盟副理事长 刘少伟表示,我们的边缘计算业务涉及到多个层面,如工业、制造业和一些行业应用上的边缘计算平台,这个平台是基于硬件、芯片搭建的,还有一块是软件,边缘计算的操作系统,如基于Linux的。

前一段时间,华为在其全联接大会上发布了几款AI芯片,可以对外销售,在边缘可以直接用AI的部件来做一些事情,再有就是之前一直做的MEC。

应用场景如何落地

边缘计算还处于发展的初期,关于其应用场景如何落地这一问题,陈伟表示,这要看数据本身的负载。有一些视频技术应用比较多的行业,像视频监控、零售业人脸识别、智能制造、智慧城市等应用场景,当有大量数据需要存储和分析的时候,这些行业往往会先落地。视觉上的运用是跨行业的,尽管表面看起来是不同的行业,但从技术层面来看,都是视觉应用。人工智能作为一个解决数据爆发的工具,它越靠近数据就越能够建模、训练,从而使人工智能推理尽早得到完善,加速整个行业的落地。

陈伟表示,要普遍落地的话,从边缘计算的角度来讲需要做两件事情,一个是行业的标准,因为边缘计算的应用场景非常的碎片化;第二,任何一个生态的搭建都需要时间,边缘计算所涉及的应用场景是完全不一样的。应用到不同场景的人脸识别,要使其在不同垂直行业进行优化,需要建设好生态,而这个生态是相当庞大的,所以,生态的搭建、成熟是需要时间的。

ECC与IEEE达成战略合作

IEEE是一个国际性的电子技术与信息科学工程师协会,是目前全球最大的非营利性的专业技术学会,在160多个国家已经拥有超过42万名会员,专注于推进电气技术、电子电力工程、机器人和自动化、计算机工程、计算机科学和其他相关技术的理论和实践。

在2018年边缘计算产业峰会上,ECC与IEEE举行了正式的签约仪式,开启战略合作之旅。

责任编辑:Sophie

相关文章

半导体行业观察
摩尔芯闻

热门评论