给人工智能业者的方法论:如何赋能边缘智能?

本文由 公众号 半导体行业观察(ID:icbank)原创,谢谢!

当前我们讨论人工智能(AI)大部分都是讲的云端智能,在云端针对数据做训练、加速,数据处理和决策也是在云端进行。随着人们对于身边事物的智能化要求越来越高,尤其是物联网产业进入规模化落地的初期,更多的数据和决策需要在边缘侧进行,也就是我们常说的解决人工智能“最后一公里”的问题。

边缘智能处理的优势在于减少延迟,全网络覆盖,增加了隐私和安全性,并减少了与云端的通信,从而降低了成本。

此前,分析机构IDC做出预测表示,到2019年,近50%的物联网创建的数据将被存储、处理、分析在网络边缘进行。从云端智能走向边缘智能,并不是简单的硬件搬移和算法复制,而是需要一套全新的架构来设计,边缘智能在要求算力、效率和数据带宽的同时,也要求低功耗和灵活性。这对传统的人工智能设计方案提出了巨大的挑战。

Imagination Technologies是全球半导体知识产权(IP)提供商,其核心产品包括用于各种数字消费性电子产品和系统所用芯片的PowerVR图形处理器(GPU)IP产品、用于物联网连接芯片的Ensigma系列IP产品,以及用于人工智能芯片的神经网络加速器(NNA)IP产品。

3月15日,在GTIC 2019全球AI芯片创新峰会上,Imagination Technologies视觉及AI部门高级总监 Andrew Grant指出,采用神经网络加速能够赋能边缘智能部署。

Imagination Technologies视觉及AI部门高级总监Andrew Grant

神经网络加速+GPU能够提供强有力的算力

随着人工智能和物联网进程的不断深入,各种各样的智能应用对于算力的要求越来越高。当算法完善,数据已经就位的时候,算力已经成为越来越多人工智能实现的痛点。尤其是物联网时代的边缘计算,很多数据需要在边缘侧得到及时的处理,并作出决策,对算力提出了更高的要求。Andrew以汽车的自动驾驶为例,每一台自动驾驶汽车都需要处理摄像头和雷达等接收到的信息,需要区别车辆、行人(尤其是儿童)、障碍物等,同时需要处理V2X的信息,再加上和云端的互联互通,汽车实现自动驾驶需要惊人的算力支持。


Andrew更具体地说,ADAS系统如果要达到实现行人预测的能力需要有超过100GFLOPS的算力,实现level 3级别的自动驾驶需要10TOPS的算力,要实现level 5级别的自动驾驶则需要500+TOPS的算力支撑。

因此,在自动驾驶汽车这个需要边缘智能的代表性产品中,在走向level 5级别自动驾驶的过程中,每一步所需要的算力都很大。可以说,足够的算力是实现边缘智能的必要条件。

通过多年的投资研发,Imagination Technologies在产品性能方面取得了突破性的进展。2017年9月21日,Imagination Technologies发布了采用专用PowerVR架构来打造的PowerVR Series2NX神经网络加速器(NNA)IP,此款IP产品可以用在各种人工智能芯片设计之中,并在面积效率、运算性能以及功耗等方面相较于友商产品都有绝对的优势。

在成功推出PowerVR 2NX NNA IP产品之后,Imagination Technologies在人工智能领域并未停止了脚步。2018年12月,Imagination Technologies在英国和中国同时再次宣布推出其面向更先进人工智能应用的最新神经网络加速器(NNA)架构PowerVR Series3NX。PowerVR Series3NX是Imagination Technologies专门用于神经网络计算而设计的硬件加速器。

单个Series3NX内核的性能可从0.6到10万亿次操作/秒(TOPS),同时其多核实现可扩展到160TOPS以上。得益于包括无损权重压缩等架构性增强,Series3NX架构的性能可在相同的芯片面积上较上一代产品提升40%,使SoC制造商可在性能效率方面提高近60%,且带宽需求降低了35%。

作为Series3NX架构的一部分,Imagination Technologies还发布了PowerVR Series3NX-F(Flexible)半导体知识产权(IP)配置,以提供前所未有的功能性和灵活性平衡,同时还结合了行业领先的性能。采用Series3NX-F的客户可以通过OpenCL框架来实现差异化并为其产品增加价值。

在软件方面,PowerVR工具是成熟并已经商用了的,且有专门的团队维护,平均每季度更新一次,从而能够最优化地去映射新兴的网络模型、提供灵活性和性能优化的理想组合。通过使用Imagination Technologies的专用深度神经网络(DNN)API,开发人员可以轻松地针对Series3NX架构编写人工智能应用程序,或者扩展实现部分自定义的算法和网络。

Andrew在介绍中提到,PowerVR Series3NX能够提供5个独立的处理核心,能够更好地保护数据,拥有更好的处理和更好的速度。他强调,PowerVR Series3NX在信息处理、算法兼容和信息安全保护方面,都具有独特的优势。

神经网络加速+GPU有足够的灵活性

未来的时代,是人工智能赋能一切的时代,包括物联网,也就是我们所说的AIoT。物联网碎片化的产品特性意味着对于数据加速处理需要更灵活。从当前的局势来看,鲜有产品能比GPU在数据加速和深度学习训练方面灵活性更高,且同时提供很高的算力。

Andrew表示,GPU+神经网络加速是赋能边缘智能最好的解决方案。


他指出,GPU是完全灵活的,能够提供用于Compute、Float和INT支持的标准化API;而神经网络加速应对不同的行业拥有很好的灵活性,同时能够实现更低功耗。

Andrew补充说,神经网络具有高的带宽和计算,需要专用架构解决这两个问题。成本效率是现代SoC设计中的一个重要因素,PowerVR NNA能够在每mm2提供最佳性能。

在Series3NX上,Imagination Technologies拥有丰富的解决方案,可以应用于安防、运动摄像头、智能手机、汽车、AR/VR、无人机等众多领域。


2017年,中国的私人资本Canyon Bridge出手5.5亿英镑(约49亿元人民币)收购了Imagination Technologies,这家GPU开放商目前是中资背景。而中国是人工智能和物联网共同的热土,对于边缘智能实现的需求也更为迫切,相信Imagination Technologies能够凭借强大的产品阵容借助这波热潮,取得不错的市场成绩。

推荐阅读