阿贡国家实验室正随着科研需求增长扩大其人工智能推理基础设施。

大量关注集中在训练AI模型所需的算力上,这不无道理。训练最大的模型需要海量硬件和可观的资金。但训练只是故事的一部分。模型就绪之后,每次有人使用时仍需消耗计算资源。这一阶段被称为推理(inference),随着AI进入科学研究领域,它正日益成为需要考虑的重要因素。

科学家可能会用AI处理实验数据,或准备模拟程序。单看这一项,可能不需要太多算力。但AI智能体正开始承担更复杂的工作,有时在过程中会向AI模型发出数百甚至数千次调用。每一次请求都需要计算资源,成本可能迅速累积。

阿贡国家实验室(Argonne National Laboratory)正致力于解决这一问题。该实验室宣布大幅扩建其ALCF推理服务。该服务于2026年5月首次推出,使用的是实验室的Sophia和Metis系统。此次扩建还支持美国能源部的"创世纪使命"(Genesis Mission),这一计划预期将使AI在科学研究与开发中发挥更大作用。

与HPE和英伟达合作开发的新系统Tara,显著扩充了ALCF推理服务可用的计算资源,使其能够支持更先进的AI模型以及日益增多的科学应用。

阿贡实验室的计算科学家Murat Keçeli亲眼见证了这一问题。他参与开发了ChemGraph,该工具利用AI智能体帮助研究人员规划和运行化学模拟。挑战在于,即便是完成一项任务,这些智能体也可能要调用多次AI模型。

Keçeli表示,与普通聊天相比,这些智能体消耗的token可能多得多,这会让商用AI模型的使用成本变得高昂。借助阿贡的推理服务,研究人员多了一个选择,无需为每次请求向商业供应商付费。

"由于工具调用可能非常频繁,且可能涉及大量输入和输出,token消耗量可能远高于对话式使用,对于前沿AI模型而言成本很高,"Keçeli说,"因此,推理服务对于智能体式AI应用非常有用,能够降低成本。"

许多研究团队无力购买昂贵的GPU,也无力聘请人员管理AI系统。即便是资金充足的研究机构,其经费和技术支持也十分有限。阿贡的服务为它们分担了部分负担,使研究人员能够专注于在实验和模拟中使用AI,而不必花时间琢磨如何首先运行这些模型。

为满足日益增长的需求,阿贡正在增添大量算力。其中最大的新增部分是Tara,该系统由HPE采用其Cray EX4000架构共同研发。Tara拥有672个节点,配备2,688块英伟达GH200 Grace Hopper超级芯片。阿贡方面表示,仅Tara一套系统提供的GPU显存,就约为该服务此前可用显存的100倍。

该服务还新增了Minerva,这是一套规模小得多的系统,包含8个节点和64块英伟达B200 GPU,为研究人员提供了另一个运行AI模型的平台。

英伟达并非唯一参与的硬件供应商。阿贡还将其基于SambaNova的系统Metis从两个SambaRack扩展至六个,共配备96颗SambaNova SN40L处理器。这些处理器专为高吞吐量、低延迟的推理而设计。硬件组合之所以重要,是因为不同AI模型的算力需求各异,对一种模型而言最优的方案,对另一种未必最合适。

研究人员可通过两种方式使用该服务:一是通过网页界面,二是通过OpenAI兼容API将模型连接到自己的应用程序。阿贡采用Globus进行身份验证,推理请求还可分配到联邦计算集群上执行。

该服务并不仅限于阿贡的科学家。其他能源部实验室的研究人员也可申请访问,包括橡树岭、洛斯阿拉莫斯、劳伦斯利弗莫尔和布鲁克海文实验室的科学家,其中一些人已经使用过该服务。

除硬件之外,该服务还提供丰富的模型选择,包括50多个模型,涵盖谷歌的Gemma、Meta的Llama以及阿贡自主开发的AuroraGPT。

阿贡的科学家曾利用AI推理分析实验数据,并协助预测聚变实验中的等离子体破裂。

扩建之后,阿贡尚未公布最新的使用数据,因此外界还不清楚该服务面临多大的需求,研究人员是否需要排队等待资源。随着AI智能体承担越来越多的科学任务,另一个问题随之出现:科学家如何确保结果确实正确?当AI参与工作的多个环节时,这一问题尤为重要。