芯片与硬件 · 报道
Nvidia推出H100 SXM,这是一款用于数据中心工作负载的旗舰4nm GPU,具有80GB HBM3内存。
代表计算密度和内存带宽的代际进步,为竞争加速器设置了基准。
行业媒体Slicast · 2022年5月6日 UTC 12:00 · 全球 · 来源: tweaktown.com
重要度 85NVIDIA下一代Hopper H100 GPU的SXM形态版本首次被拍摄到实物。在此之前,只有H100 GPU的渲染图在网上公开发布,这是该设备的第一组真实照片。这次的下一代Hopper H100 SXM GPU由ServeTheHome的Patrick Kennedy拍摄,主板型号为"PG520",采用4nm H100 GPU芯片,采用了台积电最新的CoWoS封装技术。
H100 GPU采用814mm²的芯片,周围有6个内存模块,总共提供80GB的超快速HBM3内存。NVIDIA的新H100 GPU有两种形态,配备不同数量的CUDA核心:SXM版本配备16896个FP32 CUDA核心,而基于PCIe的版本提供14592个核心。图中所示的单元代表具有全部16896个FP32 CUDA核心和80GB HBM3内存的SXM版本。
功耗相比之前的GPU架构有了显著增加。H100的功耗最高可达700W,而之前的Ampere和Volta GPU架构在数据中心形态下的功耗为400-450W范围,功耗增加了250-300W。