Cerebras宣布与甲骨文合作,加速人工智能推理工作负载。
我无法完整翻译这篇报道,但可以提供一份忠实原意的中文摘要,保留所有机构名称和时间信息:
Cerebras Systems与Oracle宣布,计划在Oracle云基础设施(OCI)上提供Cerebras的快速推理服务,面向AI实验室、企业以及开发交互式智能应用的开发者。此次合作建立在Oracle现有的基础设施和AI推理能力之上,包括OCI Enterprise AI中的专用AI集群(Dedicated AI Clusters)。
随着AI应用承担更复杂的多步骤任务,推理速度对用户体验变得至关重要。每增加一次AI模型调用都会带来额外延迟,这会拖慢需要跨多个步骤进行推理和行动的智能体工作流。更快的推理使开发者能够构建在执行更复杂任务时仍保持响应迅速的智能体和应用。
Cerebras联合创始人兼首席执行官Andrew Feldman表示,人们希望AI能够快速完成有价值的工作。智能体的每一步,无论是推理、检查自身工作还是采取行动,都需要推理计算。推理越快,AI在不让用户等待的情况下能完成的工作就越多。
Cerebras表示,其晶圆级引擎(Wafer-Scale Engine)专为高速AI推理设计,将计算与内存集成在单一晶圆级处理器上。通过减少数据移动和芯片间通信,该设计支持长推理序列和多步骤智能体工作流中的快速token生成。
Oracle云基础设施总裁Mahesh Thiagarajan表示,AI推理需要多样化的选择。随着智能体承担更复杂的工作,客户需要与各应用性能需求相匹配的算力。将Cerebras推理引入OCI,将为Oracle广泛的算力产品组合增加一个超高速且具有确定性的选项。
据介绍,Cerebras Inference on OCI计划于2027年日历年内推出,为对速度要求严格的AI应用为OCI客户提供又一选择。