AI时代的FPGA该何去何从?

2019-05-30 14:00:09 来源: 半导体行业观察

作为一种可编程逻辑器件,FPGA在20多年中已从电子设计的外围器件逐渐演变为数字系统的核心。随着云计算、人工智能时代的到来,善长数据并行计算、更加灵活和低延迟的FPGA将受到更多关注,FPGA厂商也推出不同类型的解决方案加以应对——异构计算平台化、IP化,FPGA正展现出更多新的发展趋势。

AI应用驱动,FPGA市场快速增长

云计算、人工智能的应用发展,对芯片的计算力提出了更高要求,FPGA可以同时进行数据并行和任务并行计算,具备更大的灵活性。很多使用通用处理器或ASIC难以实现的底层硬件控制操作,利用FPGA可以很方便的实现。因此,近年来FPGA受到越来越多的关注和应用。

“AI推断需求的指数级增长,需要特定架构(DSA)以达到最大效率。然而,与AI创新的速度相比,固定硬件的DSA开发周期太过漫长。”赛灵思细分核心市场副总裁Yousef Khalilollahi指出:“FPGA提供灵活应变的平台,支持可随时根据最新AI技术定制的DSA,而且无需坐等漫长硅片研发周期。”

微软亚洲研究院异构计算组副研究员张宸在此前举办的“第六届中国FPGA产业发展论坛”上也指出,这些年人工智能的崛起,依靠的是深度神经网络算法大型多层的网络模型,典型的有循环神经网络和卷积神经网络。这样的模型一次推断(inference)通常需要数十亿甚至上百亿次的运算,而在线服务系统的响应时间在毫秒量级。这就意味着需要每秒上万亿次(TFLOPS)甚至百万亿次的运算性能,同时对器件的体积、功耗还有一定的约束。这使得人们期待的数据中心高性能计算硬件应当具备如下优势:低延迟、低开销和规模化。在数据中心,FPGA相比GPU的核心优势在于低延迟,使用FPGA来加速的话,只需要微秒级的PCIe延迟,微软现在的FPGA是作为一块PCIe加速卡。对通信密集型任务,FPGA相比CPU、GPU的优势更大。

在此情况下,近年来,FPGA的应用领域正在不断拓展,市场规模也不断地扩大。研调机构Global Market Insights的报告称,2022年FPGA规模有望超过99.8亿美元。根据Semico Research预测数据,仅在人工智能应用中,FPGA的市场规模将在未来4年内增长3倍,达到52亿美元。

平台化+异构整合,FPGA展现新趋势

面对拓展越来越大的应用趋势,各FPGA厂商也在推出不同的解决方案。这些解决方案反应了不同厂商面对新市场需求形成不同的发展策略,也对FPGA的技术趋势形成了不同影响。

去年,赛灵思在其2018开发者大会(XDF)上发布了业界首款7nm自适应计算加速平台(ACAP)产品Versal。ACAP的核心是新一代的 FPGA架构,并结合了分布式存储器与硬件可编程DSP模块、一个多核SoC以及一个或多个软件可编程且同时又具备硬件灵活应变性的计算引擎。从Versal ACAP的推出可以看出,赛灵思正在试图改变以往以FPGA为单一核心的状况,朝着异构计算平台化发展,希望以此将不同种类的算法分配到更合适的异构引擎当中。新平台可以支持更多应用,适应不同的开发者。正如Yousef Khalilollahi所言:“单独一个计算体系结构,无法满足当今最流行的应用所需要的性能和功耗要求。在后摩尔定律时代,异构计算是唯一的发展之路。”

对于英特尔来说,对FPGA的发展策略则是更多地整合多种处理器产品组合,面向云端提供综合性计算解决方案。

在日前举办的“英特尔公司中国媒体纷享会”上,英特尔中国研究院院长宋继强提出“超异构计算”概念,其中就包括了在未来芯片架构设计上进行灵活性的组合部署,实现CPU、FPGA、GPU等处理器的组合,显示了英特尔将基于其在云计算上的强大实力,把服务器CPU与FPGA的加速功能进行整合。FPGA正越来越深入地嵌入到英特尔云端处理解决方案当中。英特尔数据中心事业部副总裁Caroline Y Chan也表示,随着5G网络的建设,像是快速部署无线网络、确保网络性能、建置虚拟化环境等,都是必须完成的工作。而FPGA的优势十分明显,在实现网络虚拟化加快当中势必会使用到它。另外,其可编程的特性也为网络新增功能提供了更多灵活性与可扩展性。

Achronix公司近日发布的Speedster7t代表了另一种发展趋势,其力图将FPGA的可编程性与ASIC的布线结构和计算引擎相结合,通过对二维片上网络(2D NoC),以及高密度全新机器学习处理器(MLP)模块阵列等的集成,简化用户设计,以应对人工智能机器学习应用的需求。“Speedster7t系统将数学函数、存储器和可编程性整合到机器学习处理器中,再结合交叉芯片、二维NoC结构,可以确保整个器件中数据自由流动。而在人工智能机器学习应用中,内存带宽就是一切,Speedster7t在这方面可以提供令人印象深刻的性能指标。” Achronix Semiconductor总裁兼首席执行官Robert Blake表示。

嵌入式FPGA,市场接受程度提升

不同于CPU、GPU等在移动时代快速实现IP化的发展趋势,嵌入式FPGA(eFPGA)一直没有成为市场的主流。不过,随着云计算、人工智能时代的到来,eFPGA的市场接受度有望进一步提升,成为FPGA产品的主要发展趋势之一。

对此,Robert Blake指出,FPGA是可以有效地实现IP化。eFPGA具有易用性,大大降低了使用门槛,可以快速满足用户多样化需求,无论是系统级还是芯片级都可以支持。这在人工智能时代非常重要,特别是在边缘侧计算中受到欢迎。事实上,现在有很多用户在寻问FPGA的IP问题。相信未来将有越来越多IP化的FPGA被应用。

eFPGA是指将一个或多个FPGA以IP的形式嵌入ASIC、ASSP或SoC等芯片中的发展模式。eFPGA的特色之一是易用性,它降低了客户集成FPGA加速器的门槛。客户通过定制其逻辑、Ram和Dsp资源需求,可以将多个IP进行组合,以便为特定的应用创建优化的可编程功能。这种发展模式在CPU和GPU等芯片中被大量使用,但在FPGA上却没有得到推广。

“eFPGA是令人兴奋的新工具,它使SoC架构师可以使他们的芯片更加灵活和可重新配置。” Robert Blake表示。

责任编辑:Sophie
半导体行业观察
摩尔芯闻

热门评论