谷歌云宣布构建其迄今为止最强大的超级计算机用于AI工作负载。
谷歌宣布推出其新款A3云超级计算机，现已推出私有预览版，这是该公司继续为人工智能提供云基础设施的努力的一部分。根据该公司的博客文章，"Google Compute Engine A3超级计算机专为训练和服务当今生成式AI和大型语言模型创新所需的最具挑战性的AI模型而设计。"A3使用英伟达H100 GPU，是流行的A100的继承者，A100为之前的A2提供动力，也被用于为ChatGPT提供动力，ChatGPT于2022年11月推出，引发了生成式AI竞赛。
A3的一个关键创新是，它是第一个虚拟机，其GPU将使用谷歌自定义设计的200 Gbps VPU，这允许比之前的A2虚拟机增加十倍的网络带宽。该系统利用谷歌的Jupiter数据中心，该数据中心可以扩展到数万个互联的GPU，并"允许全带宽可重新配置的光学链接，可以根据需要调整拓扑。"谷歌声称"工作负载带宽……与更昂贵的现成非阻塞网络架构不可区分，从而导致更低的总拥有成本。"
A3提供了实质性的性能改进，提供了高达26艾浮点数的AI性能，这大大改善了训练大型ML模型的时间和成本。对于推理工作负载——生成式AI执行的实际工作——谷歌声称A3相比A2实现了30倍的推理性能提升。该系统的突出规格包括八个H100，它们之间的等分带宽为3.6 TB/s，下一代第4代英特尔至强可扩展处理器，以及2TB的主机内存，通过4800 MHz DDR5 DIMM提供。据英伟达超大规模和高性能计算副总裁Ian Buck所述，"由下一代英伟达H100 GPU驱动的Google Cloud的A3虚拟机将加速生成式AI应用的训练和服务。"
客户可以在Google Kubernetes Engine（GKE）和Compute Engine上部署A3，获得自动扩展和工作负载编排的支持，以及自动升级。在Google I/O 2023上，该公司宣布Vertex AI中的生成式AI支持将提供给更多客户，允许在完全托管的基础设施上构建ML模型，无需进行维护。谷歌似乎正在采取B2B方式来处理AI基础设施，而不是发布面向消费者的工具，并且在同一会议上还宣布了PaLM 2，这是其最新的大型语言模型继承者。