灵活、高效!Imagination GPU+NNA异构计算平台实现更优化AI性能

9月9日-10日,2020年中国嵌入式技术大会在深圳宝安国际会展中心举行。本次大会由1个主题论坛和4个分论坛组成,涉及嵌入式系统、物联网开发的软硬件技术、物联网安全、RISC-V开发与应用、嵌入式人工智能技术与应用等多个热点话题。Imagination Technologies作为全球领先的半导体知识产权(Silicon IP)厂商也受邀出席大会,并于9月10日在嵌入式人工智能技术与应用分论坛上发表了主题演讲。

随着人工智能(AI)越来越多地被应用在边缘侧和终端侧,嵌入式人工智能技术受到的关注也越来越多,尤其是在新兴的人工智能物联网(AIoT)领域,嵌入式AI大有用武之地。Imagination长期以来对AI的发展保持着密切关注,并且凭借其神经网络加速器(NNA)和图形处理器(GPU)IP在AI应用中所展现的优异性能,而备受业界好评。本次大会,Imagination中国区首席技术专家李安代表公司出席,并以“基于GPU与神经网络加速器的异构计算平台”为主题,介绍了Imagination的GPU+NNA异构平台如何为人工智能、移动、汽车等广泛的应用提供支持。

灵活、高效!Imagination GPU+NNA异构计算平台实现更优化AI性能
Imagination中国区首席技术专家李安发表演讲

李安首先对Imagination的基本情况和主要产品线进行了介绍:“目前,全球基于Imagination IP打造的芯片,出货量已超过110亿片。我们拥有数千个基础专利,而且是美国之外唯一一家持有核心GPU专利的企业。Imagination主要有三大产品线,分别为PowerVR GPU、PowerVR视觉和AI以及Ensigma连接和通信。就GPU而言,我们在移动GPU IP领域占据38%的市场份额,在汽车GPU IP领域更是高达43%。此外,我们的无线连接IP也排名全球第二。”

灵活、高效!Imagination GPU+NNA异构计算平台实现更优化AI性能
Imagination拥有全球领先的GPU、AI和无线连接IP

随后,李安重点讲解了Imagination如何使GPU和NNA协同工作,以形成灵活、高效、普适的异构计算平台来支持各类AI应用。他介绍道:“Imagination最近开发了一项创新性的技术,可以使NNA和GPU更高效地协同工作,这就是AI协同(AI Synergy)技术。通过AI协同功能,GPU可以在提供图形处理能力的同时,使用其备用资源去支持可编程AI;同时,固定功能的AI运算则交由NNA来执行。这样,既利用了GPU的灵活性,又利用了NNA的高算力,同时还避免了GPU的资源闲置,是一种算力、效率和灵活性俱佳的异构计算解决方案,可以实现更优化的AI性能。”

灵活、高效!Imagination GPU+NNA异构计算平台实现更优化AI性能
Imagination创新性的AI协同技术

李安还分别就Imagination的GPU工具和软件开发套件(SDK),NNA对各种AI框架和神经网络的支持,以及GPU和NNA的重点应用等内容进行了分享。“Imagination的GPU在汽车领域有着非常广泛的应用,你可以想到的大多数汽车品牌中都有我们GPU的身影。在国际上,我们和瑞萨(Renesas)、德州仪器(TI)、索喜(Socionext)等知名汽车芯片厂商从很早就开始合作;在国内,芯驰科技(SemiDrive)也在其最新发布的智能座舱芯片中采用了Imagination的PowerVR Series9XM GPU。NNA的应用领域也有很多,例如物联网、智能摄像头、可穿戴设备、手机、增强现实/虚拟现实(AR/VR)、智能驾仓、先进驾驶辅助系统(ADAS)/自动驾驶等,有的应用通过单个NNA内核就可以支持,而有的则需要多个内核以集群方式提供高算力。”李安在介绍完GPU和NNA的应用后,还专门通过几个视频演示了NNA在人脸识别、姿态检测等方面的应用效果。

推荐阅读