如果列出新兴人工智能趋势，边缘人工智能(Edge AI)——即在数据生成地点或附近运行人工智能工作负载，而不是在集中式数据中心运行——很可能名列其中。在企业担忧将敏感数据发送给第三方以及远程服务延迟的当下，将模型部署在更靠近用户的位置有望提升控制力和性能。
同样的趋势也给数据中心行业带来了新的挑战。近年来数据中心基础设施的爆炸式增长很大程度上基于企业会将人工智能模型集中部署而非部署在边缘的假设。如果边缘人工智能加速发展，这是否会降低以人工智能为中心的数据中心的重要性？
什么是边缘人工智能？
边缘人工智能是指在边缘基础设施(例如本地服务器或终端)上运行人工智能模型或应用程序，而不是在远程超大规模或托管数据中心运行。
目前大多数主流人工智能平台并非采用这种方式交付。ChatGPT 和 Gemini 等公共服务背后的模型运行在超大规模数据中心，并通过互联网访问。即使是许多私有构建或托管的模型，通常也位于数据中心，而不是本地终端或本地服务器上。
边缘 AI 提供了一种不同的部署路径：将模型和数据保留在生成和使用位置附近，通常部署在您可控制的硬件上，并通过本地或专用网络访问它们。
为何选择在边缘运行 AI：安全性和延迟
边缘 AI 在安全性和性能两大核心领域具有优势。
从安全角度来看，将模型和数据保留在本地意味着企业无需将敏感信息上传到第三方云或数据中心。他们可以直接控制数据的驻留和访问。
边缘 AI 还可以降低遭受网络攻击的风险。将模型端点置于内部防火墙之后(而非暴露于公共互联网)，可以有效防止远程攻击者发现和利用这些端点。相比于没有直接互联网连接的本地服务，针对公开接口发起的攻击(例如提示注入)更容易。
在性能方面，边缘 AI 通常可以降低延迟。与将数据从用户设备发送到远程数据中心再返回(往返时间可能从十分之一秒到几秒不等，具体取决于网络性能)相比，本地网络通常能够提供更快、更稳定的响应时间。
边缘人工智能现状：本地模型、硬件和投资信号
这些优势有助于解释为什么人们对边缘人工智能的兴趣日益浓厚。
一个信号是本地LLM(逻辑层级模型)的日益普及——这些模型旨在终端用户设备上运行，而非云端。本地LLM曾因终端硬件限制而被认为不切实际，但随着更高效的架构和工具提升设备端性能，它们已逐渐获得市场认可。
另一个信号是边缘AI基础设施和服务投资的增加。IDC发布的《全球边缘支出指南》(2026年2月)预测，2024年至2029年边缘AI支出的复合年增长率将达到24.4%，反映出企业对边缘AI的浓厚兴趣及其加速增长。
数据中心投资的潜在威胁
对于个人和企业而言，边缘AI具有明显的优势。但对于数据中心运营商而言，它却带来了不确定性。
随着AI更多地迁移到边缘，在大型集中式设施中托管模型的压力可能会降低。对于那些已投入大量资金建设AI优化数据中心(其中许多项目仍在进行中)的公司来说，这种趋势可能并非好消息。如果相当一部分工作负载转移到边缘设备，这些设施就有可能得不到充分利用。
为什么边缘人工智能可能不会取代数据中心
也就是说，边缘人工智能的发展并不一定会以牺牲传统数据中心的人工智能为代价。
在许多情况下，企业可能会同时投资于两者。他们会将包含特别敏感数据或对延迟要求极高的工作负载部署在边缘，同时继续在集中式环境中运行其他模型。
实际考量强化了这种混合方法。大规模部署人工智能优化硬件——例如支持GPU的服务器、高带宽互连和先进的冷却系统——在大型数据中心通常更可行且更具成本效益，因为规模经济可以提升电力、冷却和运营效率。
物理安全也至关重要。边缘位置的物理安全性通常低于分层数据中心，这可能会让企业在分布式站点部署昂贵的GPU和其他加速器时更加谨慎。
简而言之，尽管边缘人工智能有望成为托管人工智能工作负载日益重要的方式，但它不太可能取代传统数据中心。一些近期的人工智能数据中心投资可能无法达到预期的利用率，但如果出现这种情况，边缘人工智能不太可能是主要原因。
本文转自：千家网，转载此文目的在于传递更多信息，版权归原作者所有。如不支持转载，请联系小编demi@eetrend.com删除。
