携手生态伙伴,Imagination GPU助力边缘生成式AI

9月 10 日,奕斯伟计算开发者伙伴大会在北京亦庄举办。大会以“绿色、开放、融合”为主题,汇聚了 EICT 领域的专家、学者等重磅嘉宾,共同探讨 AI 时代背景下 RISC-V 的发展机遇。Imagination 作为重要生态合作伙伴受邀出席活动,与奕斯伟等业界伙伴携手加速 RISC-V 在各行各业的深度融合和应用落地。

携手生态伙伴,Imagination GPU助力边缘生成式AI

活动现场,Imagination 产品管理高级总监 Stephen Barton 从芯片 IP 的角度,分享了Imagination 如何通过RSIC-V 和PowerVR 助力边缘生成式 AI 的发展。

首先,他表示,深度学习已成为推动大型计算机工作的有效方法,这一点在传统的高性能计算方法中是无法实现的。而边缘设备并非大型计算机,未来 AI 在小型计算机上将如何发展?对此,他探讨了两种方式,一是通过更大的计算机、晶体管调度、芯粒(chiplet)堆叠、减少数值方法等提升计算性能。另一种是确保计算可以轻松扩展,并且是通用的。RISC-V 则是很好的示例,作为一个不断发展的开放标准,专注于 RISC-V 解决方案可以让你充分利用系统的潜力。同时,CPU 是通用的,可以用于多种场景。

在边缘端,功耗、带宽等资源受限,更需要确保边缘计算的高效扩展。当运行生成式 AI 推理时,可能专注于峰值TOPS 和带宽,游戏也可能会占用大量的 GPU 资源,同时还可能有一些加密操作占用了大量 CPU 时间。为了保证通用性运行工作负载,并减少系统的核数量,可以通过 NPU 牺牲一些灵活性以实现高性能;也可以通过 GPU 牺牲一些芯片面积来获得更好的 PPA 并扩展加速能力。

与此同时, RISC-V 在边缘计算中也发挥着重要作用。Stephen 讲到,向量引擎和向量扩展已成为标准的一部分。当涉及到机器学习工作负载时,RISC-V 具有很大的灵活性,不需要 API 可直接使用。同时 AI 领域中 RISC-V 具有最低的面积开销,等等。

携手生态伙伴,Imagination GPU助力边缘生成式AI

最后,Stephen 特别提及到 Imagination 与奕斯伟、SiFive 的合作——奕斯伟 EIC77 系列,涵盖单Die RISC-V边缘计算芯片EIC7700及更高算力版本EIC7700X,双 Die RISC-V AI PC 芯片 EIC7702 及更高算力版本 EIC7702X。该系列中的图形和计算加速功能由 Imagination 的 GPU IP、SiFive 的 CPU IP,以及奕斯伟计算的专有神经网络单元 NPU 无缝集成而成,可为从机器视觉应用(如行为识别和人脸识别)到大型语言模型等各种边缘计算应用提供出色的性能。同时 Stephen 表示将全力支持奕斯伟提出并倡导的 RDI 生态系统建设。

未来 Imaginaiton 期待与更多伙伴合作,在边缘计算、AI PC 和 AI 加速等领域打造更多高性能产品,共同推动RISC—V 数字基础设施生态创新和产业发展。

最新文章