NVIDIA GH200 超级计算机技术

谷歌、Meta、微软将是新一代AI显卡 NVIDIA GH200 的首批用户

在 COMPUTEX 2023 上，NVIDIA 发布专为AI打造的 DGX GH200 超级计算机，通过 NVLink 互连技术使256个 GH200 超级芯片可以作为单个 GPU 执行，这提供了 1 exaflop 的性能和144TB的共享内存。可量产的 DGX GH200 与500强超算第一名的 Frontier 相比只落后 0.1 exaflop 算力，与2020年发布的 DGX A100 相比多了近500倍内存。

GH200 超级芯片通过使用 NVLink-C2C 技术将基于 Arm 的 Grace CPU 与 H100 GPU 组合在同一封装，从而消除了对传统 CPU 到 GPU PCIe 连接的需求。与最新的 PCIe 技术相比，这将 GPU 和 CPU 之间的带宽提高了7倍，将互连功耗降低了5倍以上，并为单卡提供了 600GB 内存。

—— LatentSpace