大家好，今天小编来为大家解答英特尔新代Gaudi2 处理器助力中国深学发展这个问题，很多人还不知道，现在让我们一起来看看吧！

7月11日，英特尔AI产品战略暨Gaudi2新品发布会在北京召开。会上，英特尔正式在中国市场推出第二代Gaudi深度学习加速器—— Habana Gaudi2。作为英特尔云到端产品组合的重要组成部分，Gaudi2致力于以其领先的性价比优势加速AI训练和推理，为中国用户提供更高的深度学习性能和效率，从而成为大型企业更好的解决方案。人工智能的规模部署。

英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示，英特尔致力于通过为客户提供广泛的硬件选择和支持开放的软件环境来加速人工智能技术的发展。凭借包括至强可扩展处理器和Gaudi2 深度学习加速器的产品组合，英特尔正在降低人工智能的进入门槛，并增强客户通过网络和智能边缘在云中部署这一关键业务技术的能力，以帮助构建人工智能中国人工智能的未来。

为深度学习而生的全新Gaudi2训练加速器

Gaudi2深度学习加速器和Gaudi2夹层卡HL-225B基于第一代Gaudi高性能架构，多方面提升性能和能效，加速高性能大型语言模型的运行。该加速器具有：

24个可编程张量处理器核心（TPC）

21个100Gbps（RoCEv2）以太网接口

96GB HBM2E内存容量

2.4TB/秒总内存带宽

48MB片上SRAM

集成多媒体处理引擎

Habana Gaudi2 深度学习加速器

Gaudi2加速器的优异性能在6月份发布的MLCommons MLPerf benchmark1中得到了充分认证，其在GPT-3模型、计算机视觉模型ResNet-50（使用8个加速器）、Unet3D（使用8个加速器）和在自然语言处理模型BERT（使用8个和64个加速器）上取得了优异的训练结果。与市场上其他大规模生成式AI和大型语言模型产品相比，Gaudi2具有卓越的性能和领先的性价比优势，可以帮助用户提高运营效率，降低运营成本。

此外，Gaudi2 为大规模多模态和语言模型提供了出色的推理性能。在最近的Hugging Face 评估中，其大规模推理性能包括运行Stable Diffusion2（另一种用于从文本生成图像的最先进的生成式AI 模型）、70 亿和1760 亿参数的BLOOMz3 模型。时间并保持行业领先地位。

满足大语言和多模态模型的需求

Gaudi2深度学习加速器的架构旨在高效扩展，以满足大规模语言模型和生成式AI模型的需求。每个芯片都集成了21 个100Gbps (RoCEv2 RDMA) 以太网接口，专用于内部互连，从而实现低延迟服务器内扩展。

在稳定扩散训练中，Gaudi2 展示了从1 卡到64 卡的近线性可扩展性，达到99%。此外，MLCommons刚刚公布的MLPerf训练3.0结果4也验证了Gaudi2处理器可以在1750亿参数的GPT-3模型上实现令人印象深刻的从256个加速器到384个加速器的近线性95%扩展。影响。

具备成熟的软件支持，Gaudi2产品在中国市场正式上市

随着生成式AI和大型语言模型的需求不断增长，英特尔还致力于打造领先且成熟的软件支持，以充分释放Gaudi2深度学习加速器的性能。

为了支持客户轻松构建模型或将当前基于GPU 的模型操作和系统迁移到新的Gaudi2 服务器，并帮助保护软件开发投资，SynapseAI 软件套件针对Gaudi 平台深度学习操作进行了优化，旨在与广泛的与软件生态系统一起，有助于简化模型开发和迁移。 SynapseAI集成了对TensorFlow和PyTorch框架的支持，并提供了许多流行的计算机视觉和自然语言参考模型，以满足深度学习开发人员的多样化需求。

目前，英特尔正在与浪潮信息合作打造并销售基于Gaudi2深度学习加速器的浪潮信息AI服务器NF5698G7。该服务器集成了8块Gaudi2加速卡HL-225B，还包括双通道第四代Intel Xeon可扩展处理器。

基于Gaudi2加速器的浪潮NF5698G7服务器

携手中国产业生态，共启人工智能新篇

多年来，英特尔凭借强大的AI软硬件基础，致力于为AI领域的各类工作负载提供业界领先的性能，并通过开放的生态系统和丰富的应用不断降低AI部署门槛以及多样化的产品选择。为我国人工智能发展提供坚定支持。

浪潮信息高级产品经理王雷强调，NF5698G7是专门针对生成式AI市场创新而开发的新一代AI服务器。支持8个OAM高速互联Gaudi2加速器，具有高性能、高扩展性、高能效、开放生态等优势。将为AI客户提供强大的大模型训练和推理能力。未来，浪潮信息将继续与英特尔携手，为行业打造创新领先的产品解决方案。

此外，多家本土生态合作伙伴也表达了与英特尔在当前和未来产品合作的坚定立场和长期愿景。新华三集团计算与存储产品线副总裁刘洪成指出，新华三智能计算秉承内生智能的技术理念，以硬件赋能、前瞻技术、绿色低碳，助力AI产业快速发展。基于Intel Gaudi2人工智能加速器，新华三与Intel紧密合作，开发适合大模型训练和推理的高性能AI服务器，推动智能算力的普惠创新。

同时，超融合数字技术有限公司计算基础设施领域总裁唐启明表示，非常荣幸见证Intel Gaudi2的发布。作为英特尔长期战略合作伙伴，Super Fusion将继续与英特尔合作，共同推出基于Gaudi2的新产品和解决方案，帮助企业AI场景成熟、商业化并大规模落地。

未来，英特尔将继续引领产品技术发展，进一步加速大规模深度学习的部署，助力发展中国本土人工智能市场。