其实Arm 的使命是助力应对 AI 无止尽的能源需求-51CTO.COM的问题并不复杂，但是又很多的朋友都不太了解，因此呢，今天小编就来为大家分享Arm 的使命是助力应对 AI 无止尽的能源需求-51CTO.COM的一些知识，希望可以帮助到大家，下面我们一起来看看这个问题的分析吧！

人工智能(AI) 有潜力超越过去一个世纪发生的所有变革性创新，在医疗保健、生产力、教育等领域为社会带来超出我们想象的好处。为了运行这些复杂的人工智能工作负载，世界各地的数据中心所需的计算量需要呈指数级增长。然而，这种对计算的永不满足的需求也暴露出一个严峻的挑战：数据中心需要大量的电力来驱动人工智能的突破性技术。

如今的数据中心已经消耗了大量电力，全球每年需要460 太瓦时(TWh) 电力来支持，相当于整个德国的用电量。预计到2030 年，人工智能的兴起将使这个数字增加两倍，这意味着它将超过世界上人口最多的国家印度的总用电量。

未来的人工智能模型将继续变得更大、更智能，推动对更多计算能力的需求，同时也增加对电力的需求，成为良性循环的一部分。找到降低这些大型数据中心电力需求的方法对于实现社会突破和兑现人工智能的承诺至关重要。

换句话说，没有电力，人工智能就不可能实现，企业将需要重新思考如何实现能源效率的各个方面。

重新构思 AI 的未来——一个由 Arm 平台驱动的未来

Arm 的原始产品专为电池供电设备而设计，帮助彻底改变了移动电话。因此，Arm中嵌入的能效DNA可以让业界重新思考如何构建芯片来满足AI不断增长的需求。

在典型的服务器机架中，仅计算芯片就可以消耗超过50% 的电力预算。工程团队正在寻找降低这一数字的方法，并且节省的每一瓦特都很重要。

正因为如此，全球最大的AI头部云服务商纷纷转向Arm技术来降低功耗。与业内其他产品相比，Arm 最新的Arm Neoverse CPU 是云数据中心性能最高、能效最高的处理器。 Neoverse 为领先的云服务提供商提供了定制芯片的灵活性，以优化其苛刻的工作负载，同时提供领先的性能和能源效率。节省的每一瓦特都可以用于支持更多的计算。这就是为什么Amazon Web Services (AWS)、微软、谷歌和Oracle 现在转向Neoverse 技术来进行通用计算和基于CPU 的人工智能推理和训练。 Neoverse 平台正在成为云数据中心事实上的标准。

从近期的行业内的发布来看：

基于 Arm 架构的 AWS Graviton：与业界其他产品相比，Amazon Sagemaker的AI推理性能提升25%，Web应用程序提升30%，数据库提升40%，效率提升60%。

与传统架构相比，基于Arm 架构的 Google Cloud Axion：性能和能效分别提升50%和60%，为基于CPU的AI推理和训练、YouTube、Google Earth等服务提供支持。

基于Arm 架构的 Microsoft Azure Cobalt：性能比同类产品提升40%，并提供对Microsoft Teams等服务的支持。与Maia 加速器相结合可驱动Azure 的端到端AI 架构。

Oracle Cloud 采用基于Arm 架构的 Ampere Altra Max：与传统同类产品相比，每个机架的性能提高了2.5 倍，能耗降低了2.8 倍，用于生成AI 推理模型，例如汇总、大型语言模型训练的数据标记化和批量推理用例。

显然，Neoverse极大地提升了云中通用计算的性能和能效。此外，合作伙伴还发现Neoverse在加速计算方面也能带来同样的好处。大规模人工智能训练需要独特的加速计算架构，例如NVIDIA Grace Blackwell Platform (GB200)，它将NVIDIA 的Blackwell GPU 架构与基于Arm 的Grace CPU 相结合。这种基于Arm 技术的计算架构可实现系统级设计优化，与大型语言模型的NVIDIA H100 GPU 相比，每个GPU 的能耗降低25 倍，性能提高30 倍。这些优化可以提供改变游戏规则的性能并节省能源，这一切都要归功于Neoverse 在芯片定制方面提供的前所未有的灵活性。

随着基于Arm架构的部署不断扩大，这些企业将能够节省高达15%的数据中心总能耗。这些巨大的节省可用于在相同的功率范围内驱动额外的人工智能操作，而不会增加能源负担。换句话说，这些节能相当于额外运行20 亿次ChatGPT 查询、驱动四分之一的每日网络搜索流量、照亮20% 的美国家庭，或为哥斯达黎加大小的国家供电。这对改善能源消耗和环境可持续性产生了惊人的影响。

Arm CPU 正在从根本上改变人工智能并造福地球。 Arm 架构是人工智能计算未来的基石。

作者：Arm 首席执行官 Rene Haas

大家好，关于Arm 的使命是助力应对 AI 无止尽的能源需求-51CTO.COM很多朋友都还不太明白，今天小编就来为大家分享关于的知识，希望对各位有所帮助！