Cerebras股价下跌7%,受到对OpenAI推理模型的推测以及来自Groq等厂商的加速器竞争顾虑的影响。
Cerebras Systems股价在围绕OpenAI可能使用英伟达GPU而非Cerebras硬件驱动其新型GPT-6.1 Sol Ultrafast产品的猜测出现后下跌了约7%。这一抛售由半导体研究公司SemiAnalysis的评论引发,该公司声称OpenAI的高速模型运行在常规英伟达GPU上,采用低批处理大小,而非使用专门的Cerebras处理器。
这一区别之所以重要,是因为快速AI推理是Cerebras将其硬件定位为传统GPU集群替代品的关键领域。若英伟达能为高端前沿模型提供类似的低延迟性能,投资者可能需要重新评估Cerebras的部分竞争优势。Cerebras尚未公开确认或否认其技术最终是否可能在OpenAI的基础设施中发挥作用。目前,市场反应主要由猜测而非确认的合同丧失所驱动。
OpenAI的Ultrafast产品承诺提供比标准部署快得多的模型响应速度,估计每秒可生成300个token。AI推理发生在模型训练完成后——当用户发送提示时,底层硬件执行生成响应所需的计算。
每秒生成数百个token需要巨大的计算能力和内存带宽。系统必须快速访问模型参数,同时最小化数据在处理器和内存系统间移动造成的延迟。Cerebras设计了其Wafer-Scale Engine来解决这一问题。Cerebras不是生产连接在大型集群中的小芯片,而是使用几乎整个硅晶圆构造一个巨大的处理器,将大规模计算能力和内存紧密放在一起。这减少了在独立处理器间传输信息的时间——这正是Cerebras为高速AI工作负载推广其技术的原因之一。
OpenAI明显能够利用英伟达GPU实现极快推理的能力表明,在专门硬件预期具有优势的工作负载中,常规GPU基础设施可能具备竞争力。
SemiAnalysis声明最关键的部分在于OpenAI以低批处理大小运行模型。批处理通过将多个请求分组来改善AI推理的经济效益,使GPU能够更高效地处理更大批次,提升整体硬件利用率。其缺点是延迟:等待请求集中会降低单个响应速度,使大批处理对于需要即时反馈的应用不够理想。
低批处理大小优先保证响应速度,一次处理一个或少数几个请求。Cerebras主张其架构特别适合这类工作负载,拥有大型片上内存和紧密集成的计算资源,旨在消除传统GPU集群的瓶颈。若OpenAI已找到在英伟达GPU上高效运行前沿模型同时保持低批处理大小的方法,这将削弱Cerebras提倡切换到专门处理器的最有力论证之一。不过,原始速度不能说明需要多少计算容量或OpenAI生成每个token的成本。Cerebras在某些具有更优经济性或基础设施更简洁的工作负载上仍可能保有优势。
更广泛的顾虑是英伟达在AI领域的持续主导地位。英伟达的竞争不仅体现在硬件上,还通过CUDA体现,这是其多年积累的软件生态系统,深度融入AI开发者和数据中心使用的工具。这一生态使硬件替换变得复杂:竞争对手的处理器可能展现出色的技术性能,但客户还需考虑软件兼容性、开发者体验和现有工作负载迁移成本。
Cerebras试图通过激进的架构创新来突破这些壁垒。从主要AI开发者手中赢得推理工作负载将证明客户愿意在性能收益足够大时放弃传统GPU基础设施。这也是为什么OpenAI的硬件选择备受关注——为高速前沿模型提供支持可能成为证明替代AI芯片是否能在市场顶端具备竞争力的重要案例。
当前局面并未确定Cerebras已被永久排除在OpenAI的基础设施之外。大型AI公司为不同模型、工作负载和部署阶段使用不同硬件。尽管如此,英伟达所报道的角色给Cerebras增加了压力,需要证明其专门架构所提供的优势不能被日趋优化的GPU系统轻易复制。随着AI推理变得愈加高速和交互,这种竞争必将加剧。
7%的跌幅反映出市场的不确定性。核心问题已不在于专门AI硬件能否提供杰出速度,而在于当英伟达GPU被推向同样的低延迟工作负载时,这种速度是否仍能保持足够的差异化竞争力。