Cerebras向云初创公司Gimlet Labs供应100兆瓦AI芯片容量,标志着新兴新云厂商的重大基础设施部署。

Cerebras Systems 和初创公司 Gimlet Labs 周一宣布建立合作伙伴关系,通过 Gimlet 的云平台部署 100 兆瓦的 Cerebras 驱动的人工智能推理容量。Cerebras 将在一到两年的时间内向 Gimlet 提供其 CS-4 系统,Gimlet 计划在 2027 年通过其云平台提供这些系统。第一个由 Cerebras 驱动的 Gimlet Cloud 数据中心预计将在今年晚些时候上线。两家公司拒绝披露财务条款。

Gimlet 的平台采用该公司称之为"分解推理架构"的方式,将 Cerebras 晶圆级处理器与图形处理单元相结合。该方法将人工智能推理的不同阶段——预填充、解码和注意力操作——路由到最适合每项任务的芯片类型。两家公司计划为代理型应用和实时应用提供高达 3000 个令牌每秒的速度。

Gimlet Labs 联合创始人兼首席执行官 Zain Asgar 表示:"通过将 Gimlet 的多硅软件与 Cerebras 晶圆级引擎相结合,我们可以在最适合的硬件上运行推理的每个阶段,计划在生产规模上提供高达 3000 个令牌每秒的速度。"

Cerebras 联合创始人兼首席技术官 Sean Lie 表示,将该公司的芯片与高通量 GPU 相结合可以改善数据中心经济效益。他说:"通过使 Cerebras 成为其推理云的本地部分,Gimlet 将在生产规模上为更多开发人员带来我们行业领先的速度和智能人工智能。我们很高兴能与 Gimlet 合作,作为 CS-4 的发布伙伴,为客户提供直接获取我们最新技术的途径。"

据 Asgar 介绍,快速推理支持包括网络安全、语音应用和财务分析在内的用例。Gimlet 计划针对围绕人工智能构建产品的公司和初创公司,并计划在 Cerebras 硬件上运行前沿模型——最强大的可用人工智能系统。交付后,Gimlet 将负责这些系统的日常维护和运营。

该合作关系建立在自去年以来进行的联合客户工作的基础上,一个集成解决方案已经在私有部署中处理推理流量。Gimlet 得到了 Andreessen Horowitz 和 Menlo Ventures 的支持。

Cerebras 在 8 月报告了第二季度核心收入 2.1 亿美元,并提高了全年展望。该公司已与其他主要人工智能客户签署了类似的供应协议,包括今年早些时候与 OpenAI 的一项交易。