边缘AI

随着边缘 AI 从单次提示演变为持久化、会使用工具的助手，这种灵活性与加速能力的结合变得越来越重要。我们还计划将开发的优化方案回流到 llama.cpp 中，以便更广泛的社区能够从这些性能优化中受益，并在各个平台上在此基础上进行扩展。

Imagination没有因为AI的到来而弱化GPU，反而进一步强化“GPU-First”战略：把矩阵计算、低精度AI、神经渲染等能力更深地融入GPU架构，希望让GPU从传统的图形处理器，进一步成为一个在端侧能够同时承载图形、通用计算和AI的可编程计算中心。

在边缘侧，没有无限的功耗预算，也没有无限的带宽冗余。谁能用更少的资源做更多的事，谁就能在端侧AI的长跑中胜出。E系列的发布，正是Imagination对这一逻辑的极致践行……

Imagination提出了一种新颖的方法，可在不同数值格式之间扩展算术性能。新款E系列GPU中采用的多精度点积单元，能够加速上述所有数值格式的矩阵乘法运算。

Imagination深耕并行处理架构近40年，Rob Fisher与我们深入探讨了Imagination在芯片架构层面的底层创新、软件生态的破局之道，以及在汽车与具身智能领域的最新布局。