大家好，今天小编来为大家解答英伟达发布史上最大的GPU芯片！盘点GTC2024上的重磅硬件产品-51CTO.COM这个问题，很多人还不知道，现在让我们一起来看看吧！
那么，被NVIDIA Jensen Huang 称为更大GPU 的NVIDIA GB200 Grace Blackwell 超级芯片以及基于它构建的超级计算机有哪些令人眼花缭乱的技术呢？我们来看一下。
史上最大的GPU芯片
众所周知，大模型之所以“大”，是因为它的参数庞大。以Google LaMDA模型为例，其参数高达1370亿。此外，GPT-3模型参数高达1750亿个，GPT-4已被揭露包含1.8万亿个参数。规模越大，对计算能力的需求就越大。例如，训练GPT3.5需要大约30,000个NVIDIA A100芯片。
在GTC 2024上，黄仁勋以OpenAI最先进的1.8万亿参数大模型为例，介绍了其所需的算力。据报道，该模型需要数万亿代币进行训练。万亿个参数乘以万亿个Token，就是训练OpenAI最先进的大型模型所需的计算规模。黄仁勋现场估算，计算规模为31025。如果使用petaflop（每秒1000 万亿次运算）的GPU 进行计算，则需要1000 年才能完成。
为了解决算力问题，NVIDIA正式推出GB200 Grace Blackwell大型芯片。之所以被称为“大”，不仅是因为它拥有当前GPU中数量最多的晶体管并提供最高的计算性能，而且还拥有GPU最大的物理面积。
和往年一样，黄仁勋也在GTC2024上展示了GB200 Grace Blackwell芯片。他从口袋里拿出一块Blackwell 芯片，把它举到Hopper 芯片旁边。可以看出后者明显要小一些。黄仁勋表示，我们需要更大的GPU，Blackwell平台就是为了应对这一挑战而构建的。
作为目前最大的GPU，GB200 Grace Blackwell 芯片通过900GB/s 超低功耗芯片间互连将两个NVIDIA B200 Tensor Core GPU 连接到NVIDIA Grace CPU。它采用台积电4nm工艺，拥有2080亿个晶体管，拥有20 petaflops的AI性能。与NVIDIA Hopper相比，Blackwell GPU的AI性能提升了5倍，片上存储提升了4倍。
除了强大的计算性能外，NVIDIA GB200 Grace Blackwell超级芯片还采用了以下五项核心技术：
1）第二代Transformer引擎：得益于新的微张量缩放支持以及集成到NVIDIA TensorRT-LLM 和NeMo Megatron 框架中的NVIDIA 先进动态范围管理算法，Blackwell 将通过新的4 位浮点AI 推理功能实现计算能力和计算能力。模型尺寸增加了一倍。
2）第五代NVLink：为提升万亿级参数模型和混合专家AI模型的性能，最新一代NVIDIA NVLink为每个GPU提供突破性的1.8TB/s双向吞吐量，确保多达576个GPU之间的无缝连接高速沟通可以满足当今最复杂的法学硕士的需求。
基于Blackwell架构的3）RAS引擎：GPU包含专用引擎，以确保可靠性、可用性和可维护性。此外，Blackwell架构增加了多种芯片级功能，可以利用人工智能预防性维护来运行诊断并预测与可靠性相关的问题。这将最大限度地延长系统正常运行时间并提高大规模人工智能部署的弹性，使它们能够不间断运行数周甚至数月，同时降低运营成本。
4）安全AI：先进的保密计算能力可以在不影响性能的情况下保护AI模型和客户数据，并支持新的本地接口加密协议，这对于医疗保健和金融服务等高度重视隐私问题的行业至关重要。
5）解压缩引擎：的专用解压引擎支持最新格式，通过加速数据库查询提供极其强大的数据分析和数据科学性能。
数据显示，Blackwell可以在多达10万亿参数的模型上实现AI训练和实时LLM推理。
高达800Gb/s吞吐量的网络平台
除了高性能计算芯片，随着数据量的爆发式增长，网络连接在生成式AI时代也变得至关重要。
在GTC 2024 上，NVIDIA 发布了Quantum-X800 InfiniBand 网络和NVIDIA Spectrum-X800 以太网网络，以及支持开发软件。据了解，这是全球首个高达800Gb/s端到端吞吐量的网络平台，进一步加速各数据中心的AI、云、数据处理和高性能计算（HPC）应用。
Quantum-X800平台包括NVIDIA Quantum Q3400 交换机和NVIDIA ConnectX-8 SuperNIC。两者之间的互连实现了业界领先的端到端800Gb/s吞吐量。交换带宽容量较上一代产品提升5倍，网络计算能力更高。借助NVIDIA的SHARP技术（SHARPv4），性能提升了9倍，达到14.4Tflops。
Spectrum-X800平台包括Spectrum SN5600交换机和NVIDIA BlueField-3 SuperNIC，专为多租户环境而构建，为多租户生成式AI云和大型企业用户提供关键的高级功能，从而缩短AI解决方案的时间。开发、部署和上市时间。
在软件方面，NVIDIA提供了用于优化万亿参数级AI模型性能的网络加速通信库、软件开发套件和管理软件等一整套软件解决方案。其中，NVIDIA集体通信库（NCCL）可以将GPU的并行计算任务扩展到Quantum-X800网络，利用其基于SHARPv4的强大网络计算能力以及对FP8的支持，为大型模型训练和生成提供超强大的能力。人工智能。表现。
处理万亿参数模型NVIDIA DGX SuperPOD AI超级计算机
基于GB200 Grace Blackwell超级芯片和最新网络产品，NVIDIA还在GTC 2024上宣布推出一款专用于AI的超级计算机：NVIDIA DGX SuperPOD。
这款NVIDIA DGX SuperPOD 计算机基于DGX GB200 系统构建。每个DGX GB200系统均配备36颗NVIDIA GB200超级芯片，其中总共36颗NVIDIA Grace CPU和72颗NVIDIA Blackwell GPU。而且，这些超级芯片通过第五代NVIDIA NVLink 连接成超级计算机。
除了第五代NVIDIA NVLink 网络之外，DGX SuperPOD 计算机还包括NVIDIA BlueField-3 DPU，并将支持新发布的NVIDIA Quantum-X800 InfiniBand 网络。该架构可为计算平台中的每个GPU提供高达每秒1800GB的带宽。
数据显示，它可以在FP4 精度下提供11.5 exaflops 的AI 超级计算性能和240 TB 的快速显存，并且可以通过添加机架来扩展性能。与NVIDIA H100 Tensor Core GPU相比，GB200超级芯片将大型语言模型推理工作负载的性能提升高达30倍。
考虑到功耗和散热问题，新款DGX SuperPOD采用了全新的高效液冷机架级扩展架构，可以更好地提高散热效率，保证运行稳定性，降低总体拥有成本。
谈到超级计算机，黄仁勋表示，NVIDIA DGX AI超级计算机是推动AI产业变革的工厂。全新DGX SuperPOD集成了NVIDIA加速计算、网络和软件的最新进展，可以帮助不同行业和企业改进和生成自己的AI。
写在最后：无论是史上最大的GPU芯片、能够处理万亿参数的最强计算机，还是800Gb/s端到端吞吐量的网络平台，每款产品都有非常亮眼的参数。可以说，本届GTC上发布的每一款硬件产品都受到了大众的关注。当然，这些产品在生成式AI应用场景中的表现如何，让我们拭目以待！
大家好，如果您还对英伟达发布史上最大的GPU芯片！盘点GTC2024上的重磅硬件产品-51CTO.COM不太了解，没有关系，今天就由本站为大家分享英伟达发布史上最大的GPU芯片！盘点GTC2024上的重磅硬件产品-51CTO.COM的知识，包括的问题都会给大家分析到，还望可以解决大家的问题，下面我们就开始吧！
本文采摘于网络，不代表本站立场，转载联系作者并注明出处：https://www.iotsj.com//kuaixun/6478.html
用户评论
哇塞，英伟达这回出手真大！新GPU肯定超强了
有8位网友表示赞同！
期待能看到这款新品的具体性能指标
有10位网友表示赞同！
GTC上的发布会总是最 exciting 的时候，好想看直播!
有14位网友表示赞同！
这个新闻让我激动坏了，希望它能够让游戏体验更上一层楼
有19位网友表示赞同！
英伟达又发新产品了吗？越来越期待玩高画质游戏了
有14位网友表示赞同！
这次的芯片规模肯定不会小！想看看它的功耗表现如何
有12位网友表示赞同！
终于要等到新的显卡了，以前一直用的是老款
有14位网友表示赞同！
这块GPU应该价格不太便宜吧？普通玩家买不起吗？
有20位网友表示赞同！
希望新GPU能够解决目前的显卡供货紧张问题
有8位网友表示赞同！
期待看看这款GPU在人工智能领域的应用情况
有9位网友表示赞同！
英伟达的新品发布从来都不让我失望，这次应该也不例外
有12位网友表示赞同！
51CTO的文章总是很有深度，希望能详细介绍这款新的芯片架构
有11位网友表示赞同！
感觉新款GPU可以媲美太空技术了！
有11位网友表示赞同！
新硬件永远充满期待，希望它能带来全新的使用体验
有14位网友表示赞同！
GTC上的展示一定是非常震撼的！真想现场看一眼!
有5位网友表示赞同！
看看这块GPU能不能把我的电脑给提速呀
有9位网友表示赞同！
英伟达真的太厉害了！一直在带动技术的进步
有8位网友表示赞同！
新时代的硬件，值得期待！
有15位网友表示赞同！
51CTO的文章总是很专业靠谱，可以参考一下的!
有10位网友表示赞同！
科技日新月异，这块GPU一定能改变很多事情
有6位网友表示赞同！