SambaNova扩大了与TACC的合作,将SambaStack部署规模增至三倍,以加速科学AI应用。
SambaNova是一家专注于高性能推理的AI芯片公司,今天宣布扩大与得克萨斯大学奥斯汀分校得克萨斯高级计算中心(TACC)的合作。TACC将在现有部署基础上增加SambaNova机架,使其系统规模扩大至三倍,从而让研究人员更便捷地获得快速的AI推理能力,服务科学研究。此次扩展建立在多年期共同开发合作以及TACC在其研究计算环境中使用SambaNova AI芯片的经验之上。
此次扩展获得了美国国家科学基金会(NSF)500万美元资助,其中350万美元用于采购AI加速器硬件。随着AI赋能研究的需求增长,这笔投资将扩展TACC专用推理基础设施Sagebrush。
TACC数据与人工智能部门的Niall Gaffney表示:"我们的核心目标是提供AI推理服务,帮助人们开展研究,并支持更具针对性、面向特定领域的智能体工作流。"
SambaNova联合创始人兼首席执行官Rodrigo Liang表示:"科学仍然依赖超级计算机运行,而如今越来越多的科学工作也在AI上运行。研究人员需要能够快速作答的大型模型,同时又不能占用为模拟计算而打造的机器。这正是SambaStack在TACC所做的事情。将其规模扩大三倍,能让全国各地的研究人员都用得上这些算力。"
2024年,TACC选定SambaNova,用于托管在传统超级计算机上训练的模型,并将AI推理整合进科学工作流程。此次扩展部署延续了这一思路,以专为运行科研应用中的AI模型而设计的基础设施,补充TACC现有的超级计算资源。
SambaStack将SambaNova的AI芯片与软件相结合,在提供低延迟推理的同时,兼顾共享研究计算环境在能耗和空间方面的需求。该平台与TACC现有基础设施集成,包括基于Splunk的日志记录和其他运维服务,使该中心无需为新平台另建一套运维体系,即可扩展其AI能力。
TACC决定扩展部署,既源于其对该平台的使用经验,也得益于双方背后的合作关系。新增基础设施将支持TACC为国家人工智能研究资源(NAIRR)"科学超级智能基础设施"计划所做的贡献。该计划是一项旨在扩大AI研究能力获取渠道的国家级倡议。TACC正与圣地亚哥超级计算中心合作,后者负责领导由NSF资助的NAIRR运营中心,共同推动NAIRR从试点阶段过渡为可持续的国家级研究基础设施。