[原创] 边缘侧AI芯片设计的4大难题及解决之道

2019-04-05 14:00:19 来源: 半导体行业观察

在过去的几年里,人工智能(AI)甚嚣尘上,热度一直不减,但泡沫化程度也很高。随着技术的成熟,以及应用场景的逐渐清晰,在2019年,整个AI行业开始回归理性。用云知声董事长/CTO 梁家恩的话说就是: AI已经过了靠刷榜炫技博眼球的发展阶段,必须要能实实在在地解决产业问题,才能够持续地发展下去。

作为一家成立于2012年的AI企业,云知声一直是以AI相关算法及语音应用见长,但随着技术的成熟和应用的逐步清晰,该公司意识到AI芯片的重要性逐年提升,未来要想发展,必须做专用的AI芯片。而由于具有先天的算法技术优势,有利于设计专用的AI芯片。因此,云知声于2014年开始布局芯片业务,经过4年的研发和耕耘,于2018年流片成功,正式跨入专用AI芯片市场。

据梁家恩介绍,云知声的AI哲学可以概括为两个词: 全栈,硬核 。其中,全栈的目标就是要聚焦产业闭环价值,而硬核则是要解决产业闭环核心问题。该公司的AI硬核技术能力涵盖4大板块,分别是: 语音感知与表达,语言与知识计算,AIoT芯片,以及超算平台 。其中,AIoT芯片作为硬核技术最为重要的一环,起着产业落地支撑的作用。

目前,云知声只做边缘侧的AI芯片,未涉及数据中心和云端。

在谈到AI芯片设计的挑战时,该公司副总裁李霄寒将其归结为4个方面:首先是应用场景问题,传统上,多采用通用芯片实现AI功能,而要设计边缘侧的专用AI芯片,就必须与具体的应用场景结合起来,针对具体的应用来提供相应的功能和性能,这也是符合物联网端侧特点的。这些就需要企业和设计人员具有全栈式的思维和设计能力;第二个挑战,就是冯诺依曼内存墙,即运算构件与存储构件之间大量的数据交换限制了系统的运算效率。目前业界的解决办法包括推出类脑芯片,以及PIM等;第三个挑战就是低功耗需求,对于物联网应用而言,边缘侧的低功耗需求十分迫切,而低功耗设计又是一个系统工程,需要考虑多种因素,除了传统考量外,还要考虑应用场景和算法;第四个挑战就是安全问题,包括系统IP被非法窃取,端侧产品被非法控制,用户信息被非法窃取等等。

为了解决以上挑战,云知声提出了一系列的解决方案。首先,在应用场景方面,该公司在前些年,基于其在算法方面的积累和优势,先用通用芯片去探路,摸清市场的实际需求是什么,在哪里,这之后再做专用的AI芯片,目前正处于该阶段。

要解决冯诺依曼内存墙问题,就要构建一个矮墙,云知声的思路是架构级近算存储设计。此外,该公司还开发了DeepNet内部近算存储结构,可实现更矮的墙。据李霄寒介绍,DeepNet内部是分布式的存储结构,其运算算子可分配合适的近算存储资源,从而避免了低效的数据交换。这样可以将CPU的利用率提升到60%(传统只有10%左右),大大减少了搬运数据的时间。

对于低功耗需求,该公司主要依靠其低功耗的语音唤醒技术,此外,还有低功耗的机器视觉专用microISP,其专门为机器视觉而设计,可以让后续的机器学习处理相关信息时更加顺畅。

在应对安全问题方面,云知声进行了安全IP规划,可以提供相关的安全保证。

多模态AI芯片蓄势待发

云知声于2018 年 5 月正式发布了其首款物联网专用 AI 芯片,即 UniOne 第一代产品——雨燕,这是一款单模态的语音专用AI 芯片。据悉,该公司不仅提供雨燕芯片,还提供相应的开源解决方案,包含芯片、引擎、应用,甚至还有云端服务,以及手机 APP 代码。据李霄寒介绍,这样做,有利于客户快速部署其产品,省去了找第三方开发各种应用的时间和成本。

今年1月,该公司对外宣布了其多模态 AI 芯片的研发计划,即不局限于其具有传统优势的语音应用领域,而是向语音、图像和视频等多模态AI芯片方向发展。据悉,第一代雨燕芯片采用的是该公司自行研发的 DeepNet 1.0,而其正在研发的新一代多模态 AI 芯片则采用了升级版本—— DeepNet 2.0。

据悉,云知声以 DeepNet 2.0 IP 为核心的 AI 架构,算力可以达到 4T。DeepNet 2.0 是多模态神经网络处理器 IP,其主要特点是可以支持多种推理网络兼容,如 LSTM、CNN、RNN 以及 TDNN 等;支持可重构计算;还支持 Winograd 处理,将乘法计算量降至原先的一半以下,大幅提升了计算效率。李霄寒表示,DeepNet 2.0 是相对通用的 IP 核,既可以满足音频应用需求,也可以实现对图像的处理。

另外,DeepNet 2.0 还支持多 NPU 的组网,组成模块化的网络,来支持算力的需求。

据悉,该公司正在研发的多模态AI芯片分别是面向物联网的雨燕-Lite,这是第一代雨燕的升级版本;面向智慧城市的海豚(Dolphin);面向智慧出行的车规级芯片雪豹(Leopard)。

责任编辑:Sophie
半导体行业观察
摩尔芯闻

热门评论