RISC-V影响力与日俱增

本文编译自Semiconductor Engineering


业界关于RISC-V架构具有的诸多益处的讨论越来越多,但它真的是正确的起点吗?尽管并非完美无缺,但它或许能提供逐步前行所需的灵活性。

计算机架构和软件的发展沿袭了80年前处理器的发展轨迹。这些处理器旨在利用基础技术来解决顺序标量算术问题,只要有足够的内存,这种技术就能解决任何有限问题。

芯片行业已表明不愿放弃那种做法,尤其是在仍运行着50年前开发的软件的行业。软件范式和向后兼容性有着巨大的影响力。编程从单处理器架构以有意义的方式迁移到多处理器架构,耗费了数十年时间,直到英伟达开发出CUDA,针对大规模并行处理器的应用才开始在高度专业化应用之外进行开发。

那么,当许多应用的典型工作负载是带有少量控制的数据流问题时,业界为何还需要另一种CPU架构呢?答案在于RISC-V架构可通过多种方式演进,其中一些方式可能支持缓慢迁移,而不是试图跨越巨大鸿沟。

在近日举行的RISC-V社区年度峰会上,展示了RISC-V日益广泛的应用及其日益增长的影响力,尤其是在没有太多遗留软件阻碍的应用领域。RISC-V国际首席执行官Andrea Gallo表示:“RISC-V不再只是你之前甚至都不知道的微型嵌入式微控制器,它已经融入到你的产品中了。RISC-V已经进入了一个全新的阶段。”

Gallo还列举了几个RISC-V取得重大进展的案例:“英飞凌表示,他们正在将RISC-V应用于汽车中。欧盟正在资助HPC项目和汽车项目。Meta正在其加速卡中将其用于AI。英伟达估计,2024年,他们的GPU中RISC-V核心的出货量达到10亿。”

RISC-V在尖端处理器领域也取得了重大进步。“它不仅应用于低端处理器,在某些领域,它还可以作为GPU的协处理器或加速器,”新思科技首席产品经理Mohit Wani表示。“英伟达在一次演示中表示,其产品组合中近30种不同功能模块均由基于RISC-V的核心实现。”

不过,RISC-V仍需跨越一些商业和技术障碍。弗劳恩霍夫IIS自适应系统工程部设计方法负责人Roland Jancke表示:“汽车行业越来越多地关注RISC-V,但此前因RISC-V属于开放架构,汽车行业一直持观望态度。在汽车行业,一旦出现问题,需要明确责任方,而开放社区模式难以归责于单一供应商。如今,由于潜在的成本降低,车企越来越多地关注RISC-V,但这需要完整的生态系统支撑。不仅需要开发处理器的工具,还需要上层软件支持。尽管RISC-V正在抢占市场,但要成为汽车领域的主流处理器,仍有很长的路要走。”

然而,并非所有人都认为这值得关注。Quadric首席营销官Steve Roddy表示:“RISC-V并非AI的解决方案——既不适用于训练,也不适用于推理。RISC-V只不过是另一种控制CPU,与Arm、x86、MIPS、Xtensa和ARC处理器类似。后两者也为设计人员提供了与RISC-V类似甚至更胜一筹的指令集定制能力。因此,RISC-V的技术特性并未使其比前代产品有显著的提升。”

若要融合这两种极端观点,需要对行业运作方式有长期的理解。微芯科技FPGA部门系统架构和嵌入式解决方案高级总监Venki Narayanan表示:“RISC-V有能力推动AI演进,而这正是AI发展所需。无论是在学习层面还是推理层面,模型都在不断发展,需要支持各种数据类型、各种存储单元、本地内存,并能够以更快的方式进行更多自定义计算。从这一点来看,实现路径有很多种,而RISC-V正通过领域特定架构(Domain-Specific Architectures)来实现这一点。”


独一无二的机遇

在芯片行业,出现无遗留软件适配的新应用场景实属罕见,但人工智能(AI)正是如此。此外,鉴于AI技术发展速度之快,任何软件在尚未成熟前就可能被新突破颠覆。这为技术的持续演进和适配创造了完美环境。

RISC-V的开放性赋予了架构设计的自由度。RISC-V国际的Gallo表示:“AI加速器卡可集成大量RISC-V核心,甚至在同一集群内拥有不同类型的核心。例如,数百个小型模块中,部分核心专门负责数据传输,另一些则专注于推理计算本身。通过添加定制指令,还能集成高效的张量运算单元。这正是RISC-V影响芯片架构的方式。”

虽然RISC-V的授权模式带来了成本优势,但这并不是唯一原因。“其价值远不止于此,”新思科技的Wani表示,“从加速器与处理器的连接方式来看,通常通过高速接口以内存映射模式交互。对开发者而言,若需在加速器上执行任务,只需通过接口发送数据和任务信息,等待结果返回即可。”

但这种通信成本高昂,而且还导致核心于闲置。“30%的时间浪费在数据传输和结果回传上,”Wani表示,“若能通过自有向量流水线原生执行特定操作,并直接连接加速器,即可避免这些时间损耗。这种灵活性仅在RISC-V架构中存在。”

Quadric的Roddy对此并不认同:“所有控制CPU在AI应用(尤其是推理场景)中都面临相同的严重局限。CPU的设计初衷是处理随机代码中的指针跳转,而非矩阵或张量运算。它们至多提供向量乘法的计算吞吐量,却受限于传统加载/存储的带宽瓶颈。因此,任何宣称将RISC-V用于AI的方案都必须捆绑独立矩阵引擎,这会引入图划分问题,而这正是基于CPU方案的致命弱点。解决AI问题的正确创新方向,是开发原生优化矩阵/张量运算的架构,打破以CPU为中心的内存缓存和推测乱序流水线依赖。”

RISC-V通过在传统控制处理器中集成定制功能实现这些功能。Gallo表示。“部分成员已开发定制张量指令,这正是RISC-V的灵活性所在,可为特定工作负载开发定制指令,并完全承担定制应用的全部拥有成本。同时,标准化和扩展规范也有价值,可共享编译器、工具链和库的维护成本。我们已有向量指令,正在开发矩阵指令,且会根据应用场景采用不同方案:无论是加速器卡、AI物联网还是边缘AI,矩阵加速的实现方式都将不同。”

由于没有其他候选方案,业界只能利用现有资源。微芯科技的Narayanan表示:“数据流在AI和许多计算元素中都非常重要,而计算需求的增长要求更节能的实现方式。这不仅涉及指令、取指、执行和写回的微架构,关键在于如何组织微架构和数据流,尤其是如何高效传输层间大量数据,不能一直依赖DDR读写。”

随着人工智能的快速发展,需要具备高度的灵活性。“需要高效实施的AI模型类型正在不断增长,”微芯科技AI与通信部门负责人Nilam Ruparelia表示,“ChatGPT需要Transformer,它也是AI流行的原因,但市面上有很多模型的复杂度远低于Transformer,但它们也需要更高的性能。例如,经典的CNN、RNN和LSTM需要数学运算单元架构和DSP模块架构,以更好地支持这类模型并提升运算效率。”

AI并非单一问题,灵活性依然重要。“AI有多个层次,”Narayana表示,“有分割、目标检测、分类、Transformer,每个层级使用不同数据类型。这些层级如何实现?如何高效执行?层间数据如何传输?这些问题的解决依赖于架构设计。”

这一需求不仅涉及运算逻辑,更关乎数据处理。“RISC-V具有先天优势,允许在不违反指令集架构(ISA)规范的前提下定制硬件,”微芯科技的Ruparelia表示,“无论是在指令层面还是微架构层面,都能针对特定数据类型优化处理能力,为特定工作负载构建定制计算解决方案。这种灵活性对于快速应对新数据类型至关重要,而且在不久的将来,不同应用领域将持续涌现新的数据类型。”

然而,面向未来任务优化的处理器完整需求仍未明确。“若开发一种边缘推理处理器,其可能用于分类、检测、分割甚至某种Transformer运算,”Narayanan表示,“这些都是固定的层,我们已知如何设计更优化的计算单元来处理此类工作流。我们构建的处理器针对当下需求优化,但这意味着一旦出现新层级、新操作类型或类似变化,现有架构虽能支持,效率却无法与原生适配设计相提并论。”


生态系统

生态系统一直是某些应用领域采用RISC-V的一大障碍,但目前正稳步推进。“我们将Yocto项目的会员资格升级到了白金级别,”Gallo表示,“这向生态系统发出了非常强烈的信号。Yocto是最普及的嵌入式Linux发行版,多年来首次添加新的ISA和新架构,成为白金会员意味着RISC-V将与其他架构平起平坐。Yocto不仅用于嵌入式Linux、边缘AI物联网,还用于消费级机顶盒电视和汽车信息娱乐系统。”

移动领域正在迎头赶上。“谷歌已将RISC-V列为安卓开发领域的一流技术,” Wani表示,“随着软件栈的成熟,我们还将在移动设备、笔记本电脑等热门领域看到入门级应用核心。”

当足够多的领军者加入时,其他企业也会纷纷效仿。“Red Hat宣布他们已经为RISC-V推出了RHEL开发者预览版,”Gallo表示,“Fedora也已支持RISC-V。”

大量投资正在涌入。“欧洲另一个有趣的项目是DARE项目,”Lapides表示,“该项目将在未来五年投入2.6亿至2.8亿欧元。三家主要供应商都在构建芯粒,而不仅仅是处理器IP。一个是通用CPU,一个是矢量加速器,还有一个是AI加速器。这些芯粒将被集成。RISC-V与新芯粒架构的结合颇具看点。”


结语

RISC-V或许并非是许多应用(尤其是AI相关应用)的完美解决方案,但它或许能提供一条演进路径。此外,目前业界还没有更好的替代方案。

半导体行业很少有技术革新能取得成功。通过建立一个开放且不断发展的社区,人们能够快速发展对当下需求、未来需求以及未来前景的定义,或许能够在不承担过多风险的情况下达到最终目标。通过循序渐进,生态系统能够跟上步伐,稳步前进。


本文转自:TechSugar,转载此文目的在于传递更多信息,版权归原作者所有。如不支持转载,请联系小编demi@eetrend.com删除。

最新文章