英伟达数据中心负责人表示本地GPU部署用于AI应用正在加速增长。

伊恩·巴克是英伟达数据中心业务副总裁兼总经理,他与《数据中心知识》杂志讨论了AI基础设施部署不断演变的格局。巴克的评论恰逢英伟达数据中心业务报告收入同比增长71%,这反映了各行业对GPU基础设施的强劲需求。

据巴克介绍,企业越来越多地在本地部署GPU,而不是完全依赖云服务商。"当然。我们看到SAP、Salesforce、eBay等公司开始在GPU上训练神经网络,并在本地环境中部署神经网络进行推理,"巴克表示。维持本地基础设施的决定源于多个因素。"一些IT部门完全有能力管理自己的基础设施。他们可以针对自己的具体需求进行优化和定制,而不仅仅是云服务商提供的功能,"巴克解释道。数据隐私问题也推动了这一选择:"他们还担心数据隐私问题,尤其是财务信息和用户信息。将数据保存在自己的本地服务器上,由他们自己控制,这样会更放心。"巴克指出,"这是一个偏好和选择的问题,有时也涉及经济因素。当然,这是一个租赁与购买的决定,在每一个案例中的经济学考量都是不同的。"

不同行业正在以不同的速度采用本地GPU基础设施。根据巴克的说法,自动驾驶车辆代表了"一个大的增长领域",因为公司需要"用于模拟和训练这些神经网络的大型系统"。医疗保健已成为另一个主要部门,其中"大量医疗数据"推动了对深度学习应用的投资,用于疾病理解、癌症研究、诊断和医学影像。在传统数据分析领域,SAP等公司"正在大力投资提供新的服务,如品牌洞察,使他们能够在视频流和体育赛事中识别品牌",同时也在部署深度神经网络用于"推荐系统、更好的广告投放和更高的点击率"。

巴克指出超大规模数据中心运营商、SAP和GE是最先进的实践者。特别是GE在预测性维护方面"表现得非常好",利用AI"摄取来自用于发电的燃气轮机传感器的所有数据",并在设备故障前进行维修。该公司还"在用无人机进行有意思的工作,在油井等地点进行观察和寻找故障,以便及早发现问题,并在发生更昂贵或更灾难性事件之前采取行动"。

展望未来,巴克预计本地和云基础设施会持续混合使用。"不,我认为总会有一个混合。我不确定实际的混合比例最终会是什么,"他表示。一些企业认为AI基础设施所有权在战略上很重要,使他们能够"调优和设计他们的数据中心架构、基础设施、InfiniBand交换机和网络拓扑结构,以建立更像超级计算机而不仅仅是普通集群的系统"。本地部署的根本驱动因素保持不变:IT管理能力、云服务商不提供的架构优化机会、数据隐私要求,以及长期资产所有权与租赁的经济学考量。