英伟达展示黑威尔服务器生产部署进展，并宣布包括黑威尔Ultra、Vera CPU和2026年推出的Rubin GPU的路线图。
# Nvidia在Hot Chips 2024展会前展示Blackwell平台
在Hot Chips 2024贸易展之前，英伟达展示了其Blackwell平台的相关内容，包括正在安装和配置的服务器、现有的Hopper H200解决方案、使用其Quasar量化系统的FP4大语言模型优化、用于数据中心的温水液冷技术，以及用于设计更优芯片的AI工具。英伟达重申Blackwell不仅仅是一款GPU，而是一个完整的平台和生态系统。英伟达展示的大部分内容已为业界所知，包括其数据中心和AI路线图，显示Blackwell Ultra将于明年推出，2026年推出Vera CPU和Rubin GPU，随后2027年推出Vera Ultra——这些细节首次在6月的Computex大会上得到确认。
虽然有报道称Blackwell延迟了三个月，但英伟达既未证实也未否认这一信息，而是选择展示正在安装的Blackwell系统的图像，并提供了Blackwell GB200机架和NVLink交换机内部硬件的照片和渲染图。这些硬件似乎能够消耗大量功率并配备强大的冷却系统，尽管看起来成本非常高昂。
英伟达展示了现有H200的性能结果，表明在使用Llama 3.1 70B参数模型与NVSwitch时，推理工作负载的性能相比运行点对点设计可高出1.5倍。Blackwell将NVLink带宽翻倍以提供进一步的性能提升，其NVLink交换机托盘可提供14.4 TB/s的总带宽。为了应对数据中心日益增长的电源需求，英伟达正在与合作伙伴合作开发温水冷却技术，将加热的水进行循环利用以实现供暖，从而进一步降低成本——该公司声称使用这项技术已实现数据中心电源使用量减少高达28%。
为了为Blackwell的原生FP4支持做准备，英伟达确保其最新软件能够受益于新硬件功能而不牺牲精度。通过使用Quasar量化系统调整工作负载结果，英伟达可以在仅使用四分之一带宽的情况下提供与FP16基本相同的质量。此外，英伟达创建了一个内部大语言模型，用于加速Verilog电路描述的设计、调试、分析和优化——这是创建拥有2080亿晶体管的Blackwell B200 GPU的关键因素。该工具将被用于为下一代Rubin GPU及后续版本创建更优秀的模型。