英特尔Bernhard Friebe:FPGA如何加速数据化世界的到来

2017-09-28 15:54:24 来源: 半导体行业观察
云的时代已到来,这个变化使得大数据时代企业、政府机构、软件开发人员更好地用云来改善人们的生活。利用云资源,无论是短期项目还是突发需求均可以快速灵活地得到满足。混合云模式能够同时满足企业对数据性和灵活性的需求,只需要投入少量的资源,企业就能快速利用云端部署需要实现的服务。

 
但是受限于硬件的性能,云服务在发展的过程中总是会或多或少的产生种种问题,如何才能快速的解决这些未知的问题呢?9月6日,英特尔可编程解决方案事业部媒体见面会上,FPGA软件解决方案高级总监 Bernhard Friebe就通过自身的工作经验,分享了如何通过FPGA加速云端服务,改善体验,提供卓越的性能。
 
数据化世界的到来
 
 
我们的世界正在被数据化。
 
云计算、物联网、5G等技术的发展,将我们带到了一个数字化的世界。数据呈现出一个指数型的增长,预测估计在2020年一个平均的互联网用户每天会产生1.5GB的数据。
 
据预测,到2020年,平均每位互联网用户每天消耗1.5GB流量,自动驾驶汽车每天产生的数据是4TB,智能工厂每天产生的数据是1PB,处理如此庞大的数据量会给数据中心的云架构带来非常大的挑战。Bernhard Friebe先生表示。
 
如何更好的利用这些数据来为应用服务,为客户提供更好的服务,提供所需的功能,更有效的工作一直都是厂商思考的问题。
 
但是问题的根源在于,要想高效的处理海量的数据就必须针对性的提供能够高效运行的处理器。
 
众所周知,目前对于海量的数据处理,尤其是人工智能、深度学习这一类的数据学习型应用来说,存在着多种处理器规格:CPU、GPU、TPU、FPGA,等等。
 
到底哪一种才是合适的呢?
 
如何正确的处理数据
 
首先来看看这几种处理器各自的优缺点。
 
首先,目前GPU已经在深度学习训练模型领域开创性地创建了包含CNN、DNN、RNN、LSTM以及强化学习网络等算法在内的应用加速平台和完整的生态系统。
 
GPU虽火,但技术上也有一定的局限性:GPU在应用过程中无法充分发挥并行计算优势。
 
GPU在深度学习算法模型训练上非常高效,但在推理时,一次性只能对于一个输入项进行处理,并行计算的优势不能发挥出来。
 
相比较而言,运行深度学习算法实现同样的性能,GPU所需功耗远大于FPGA,通常情况下,GPU只能达到FPGA能效比的一半或更低。
 
目前来看,深度学习算法还未完全成熟,算法还在迭代衍化过程中,若深度学习算法发生大的变化,GPU无法像FPGA一样可以灵活的配置硬件结构,快速切入市场。
 
因此,FPGA和GPU未来在超级数据中心将成主流应用。尤其是在深度学习方面, GPU强在训练,而FPGA强在推断。
 
 
FPGA对于异构架构至关重要
 
但是在英特尔看来,情况要更加复杂。Bernhard Friebe先生作为FPGA软件解决方案高级总监表示。
 
众所周知,英特尔可编程系统事业部前身为Altera,FPGA市场在全球达50亿规模,英特尔推出异构多核处理器之后,通过FPGA能真正实现定制化的可编程高利用率,异构多核处理处理器是在CPU内集成CPU和其他模块一起同步工作,异构多核处理器错了CPU运算模块之外还会有例如GPU、FPGA、DSP的运算模块。
 
由于FPGA具有可编程专用性,高性能及低功耗的特点,英特尔推出的基于FPGA+CPU的深度学习加速解决方案,希望通过更高配置的设计和内置更高效已编译算法,来加速FPGA在人工智能领域的应用。
 
例如,微软选择英特尔Stratix 10 FPGA作为新的深度学习加速平台的关键硬件加速器,这种基于 FPGA 的深度学习加速平台可以提供“实时人工智能”技术,使云基础设施能够以超低延迟来尽可能快速地处理和传输数据。
可以说,FPGA对异构计算或者是异构的架构是至关重要的。
 
一方面,FPGA能够带来最大的编程的灵活性,支持高度差异化的产品。另一方面,FPGA支持并行运算的,特别适合未来计算的世界,更重要的是他们的性能从吞吐量,从实施的速度和能耗的角度来说,比CPU或者是GPU要优上十倍。
 
“在AI应用方面,这种应用也是在不断变化的,很多标准都是在不断变化的,而FPGA就能够对这种不断变动的技术及时的进行调整,这也就是为什么微软选择FPGA进行AI开发的原因。”Bernhard Friebe先生解释道。
 
总结
 
在经过长时间的摸索之后,英特尔在人工智能和云计算中也摸索出了自己的一条路。
 
英特尔通过FPGA+CPU的方式,一方面利用CPU的本地计算优势,提高前端的计算性能;另一方面,利用FPGA加速云端计算,通过软件控制的方式,全面发挥硬件的性能,实现灵活、原生并行、高性能、可重编程、低延迟、高能效的性能,来满足人工智能和云计算的需求,也许能为人工智能的发展开辟一条新出路!
责任编辑:星野
半导体行业观察
摩尔芯闻

热门评论