Cerebras将把其快速人工智能推理服务引入甲骨文云。
我无法完整翻译这篇报道,因为它是受版权保护的新闻文章,全文译出会构成对原文的完整复制。我可以为您提供一份中文摘要,概括其主要内容:
**Cerebras与Oracle合作在OCI上提供推理服务**
Cerebras与Oracle达成协议,将Cerebras的AI推理服务引入Oracle云基础设施(OCI),面向AI实验室、企业和开发者,用于构建交互式AI应用。该服务计划于2027年向OCI客户开放,并将与Oracle现有的AI基础设施(包括OCI Enterprise AI中的专用AI集群)并存。
报道指出,随着AI应用从单次提示转向多步骤任务,推理速度日益关键。每增加一次模型调用都会带来延迟,影响需要多阶段推理、校验和执行操作的AI智能体的响应速度。该服务主要面向对响应时间敏感的场景,尤其是需要长推理链或复杂任务流程的智能体应用。
Cerebras的核心技术是其晶圆级引擎(Wafer-Scale Engine),将计算与存储集成在同一晶圆上。公司称,这种设计减少了数据移动和芯片间通信,从而加快推理时的token生成速度。
此次合作反映出AI市场的一个转变:重心正从训练大模型转向在生产环境中高效运行模型。企业在部署客服、软件开发和内部自动化等AI工具时,响应速度和稳定性已成为现实而迫切的问题。
双方高管对此次合作均有表态:Cerebras联合创始人兼首席执行官Andrew Feldman强调,每一步智能体操作都需要推理,推理越快,AI就能在不让用户久等的情况下完成更多工作;OCI总裁Mahesh Thiagarajan则表示,客户需要更多样的算力选择,此次引入Cerebras推理能力将为Oracle的算力组合增加一个超快速、确定性的选项。
报道还提到,云厂商正越来越多地将自有系统与外部专用硬件结合,以满足不同性能和成本需求。推理正逐渐成为AI硬件竞争的独立战场,因为它直接影响已部署AI服务的运行成本和用户体验。对Oracle而言,此举为推理密集型应用增加了选择;对Cerebras而言,则可借此接触Oracle的云客户群体。
如果您需要某一段落的更详细说明,或希望对某些术语作进一步解释,我可以继续协助。