ODCC 云计算高级技术总监、英特尔中国数据中心集团周翔:AI时代下的异构计算

2017/8/23 10:52:51 来源:DTDATA 作者: 分类:会议活动

在training上英特尔上个月发布了最新的至强服务器CPU,可用于training加速的还有至强Phi产品。在gateway端,英特尔也是大力布局,包括movidus产品和FPGA都可以应用。在过去几年,AI得到了极大的发展,AI在数据中心快速的发展得益于智能端所带来的数据到数据中心,让大家有这样的能力去挖掘这些数据。英特尔认为接下来的趋势就是要把数据中心产生的这些智慧用到端上面去,具体的应用有可能是自动驾驶,也有可能是机器人或者是各种各样的辅助业务。因此英特尔在端上也是有极大的投入,包括Movidius VPU,包括FPGA,包括GNA(IP)。在AI上,除了数据中心之外,非常重视的就是在端上,我们深信从云端到设备端是形成一个有机的闭环的相辅相成的增长。




具体来讲,在数据中心端,其实英特尔一直在给至强这样的服务器上增加它的处理能力。举个例子,像至强CPU里面,我们在最新的一代至强加入了AVX512这样的加速单元,在外面的展台有一个展示,如果把AVX512打开做Inference加速,能极大提高当前的Inference效果。第二个是在DeepLearning上,KNM产品把单精度浮点运算单元增加了4倍。这上面不得不提一点,在training时用到一些传统的工具的时候,比如处理大图片的时候,第一件事是把图片变得小一点,当你要放到GPU卡上做加速处理的时候,它的内存容量可能不够,它的带宽可能会有限制,所以只能处理小的batch size。而英特尔的KNL/KNM处理器,基于大的内存容量,带宽,可以使用大的batch size,这样有效的加速大矩阵运算。另外想提一点FPGA,所带来的执行效率以及能耗降低,英特尔的FPGA的解决方案可以提高training/inference的效率,降低能耗开销。


我们还有一个专门针对Training做的ASIC,在2017年晚一点的时候会推出市场,供大家做Deep Learning的加速。


英特尔从云端到设备端,我们都在加强在AI上的服务,从已有的至强产品的AVX,或者是KNM加速卡,FPGS或者ASIC,我们拥有一整套的解决方案体系。


谢谢大家。 

相关资讯

    暂无相关的资讯...

共有访客发表了评论 网友评论

验证码: 看不清楚?