英伟达发布可扩展AI数据中心设计蓝图和参考架构(AI工厂)。
英伟达公司(Nvidia Corp.)今日发布了一系列企业参考架构(Enterprise Reference Architectures)——详细的蓝图设计,旨在帮助组织规划和构建先进的、面向未来的"人工智能工厂",以支持新一代智能应用。这些AI工厂是高性能且安全的数据中心,专门用于"制造智能"。组织面临的挑战是此前无人构建过AI工厂,而且由于大语言模型能力和软件框架快速发展,构建此类数据中心的最佳实践和标准化方法仍处于初期阶段,这使得企业难以充满信心地投资数据中心基础设施。
英伟达的企业参考架构为AI工厂所需的全栈硬件和软件提供了详细建议,以及在最优服务器、集群和网络配置等方面的指导。根据英伟达的说法,通过使用其企业参考架构,公司将能够构建和部署"经济高效的加速基础设施",该基础设施与各种第三方硬件和软件组件具有互操作性,便于在未来轻松更新。
这些参考架构为英伟达认证服务器提供了建议,这些服务器配备了图形处理单元(GPU),是大多数AI应用的主要工作引擎。架构还提供了使用英伟达Spectrum-X AI以太网平台和公司BlueField-3数据处理单元进行AI优化网络的指导。蓝图还整合了英伟达AI Enterprise平台,该平台包括英伟达NeMo和英伟达NIM等微服务,用于构建和部署AI应用,以及英伟达Base Command Manager Essentials,它提供基础设施配置、工作负载管理和资源监测工具。这些参考架构将通过服务器制造合作伙伴提供给企业,包括戴尔科技公司(Dell Technologies Inc.)、惠普企业公司(Hewlett-Packard Enterprise Co.)、超微计算机公司(Super Micro Computer Inc.)和联想集团有限公司(Lenovo Group Ltd.),使企业在选择底层服务器平台时具有更大的灵活性。
使用英伟达参考架构的主要优势包括更快的部署速度和最大化的性能。正如英伟达企业平台副总裁兼总经理鲍勃·彼得(Bob Petter)所表示:"企业参考架构通过为构建灵活且经济高效的加速基础设施提供简化方案,减少了部署AI基础设施解决方案的时间和成本。"参考架构还被设计为具有抗未来性,当硬件和软件出现新创新时可以轻松升级。星座研究公司(Constellation Research Inc.)分析师霍尔格·穆勒(Holger Mueller)指出,大多数企业根本缺乏自行构建AI基础设施的必要技能和经验,而英伟达的方案弥补了这一空缺。穆勒表示:"英伟达在使几乎每个生成式AI项目成功方面发挥了关键作用,其蓝图将使组织更容易构建和升级其本地AI架构。只要企业乐于使用英伟达芯片——很多企业都很乐意,这就是一个双赢局面。企业能够更快地让AI项目投入使用,而英伟达又获得了一个长期客户。"