Groq继续融资,表明投资者对专门化AI推理芯片作为通用GPU替代品的信心。
AI芯片公司Groq正在融资6.5亿美元,尽管表面上看起来像是一笔成功的交易。该公司的情况比传统并购更加复杂:去年12月,Nvidia授权了Groq的技术并聘请了Groq的关键技术高管,但并未收购Groq这家公司本身。Groq公司继续独立运营,维持其数据中心和推理API,该API专注于为较小的模型提供极快的推理速度。Groq基础设施目前支持的最大模型是GPT OSS 120B,这个规模可能至少比GPT-5.5或Claude Mythos等前沿模型小10倍。这一限制反映了一个根本性的技术约束:Groq的全SRAM架构缺乏传统芯片中的高带宽存储器(HBM),为前沿规模模型提供服务的成本会非常高,但可以为较小的模型提供显著更快的token生成速度,代价是降低了每美元token数的经济效益。
Groq的四个运营中的大型数据中心部署在日益容量受限的市场中代表了一项重大战略资产。随着推理需求激增,现有数据中心正在达到全面利用率,初创公司和超大规模企业都在因监管、电力和专业知识挑战而苦于数据中心扩展。当Nvidia收购Groq的技术团队时,芯片设计、编译器和软件团队加入了Nvidia,但Groq的数据中心运营团队留下来维护GroqCloud推理服务。这创造了一个独特的定位:一个具有成熟运营专业知识的私有推理数据中心运营商,其估值可能处于异常低的价格——考虑到它大部分差异化技术已被Nvidia收购。
将Groq的资产与公开交易的AI数据中心运营商进行比较可以为该公司的估值潜力提供参考。CoreWeave估值500亿美元,运营43个AI数据中心,而Nebius估值约为500亿美元,拥有11个数据中心,尽管Nebius的设施规模更大。按照这些指标,仅Groq的四个功能性数据中心理论上就可能支撑数十亿美元的估值。然而,存在几个复杂因素阻碍了这种比较。Groq的数据中心装满了已有七年历史的LPUv1芯片,而Nvidia现在向任何云提供商销售基于Groq架构的新型LPUv3芯片。这意味着Groq主要的技术优势——极快的token生成——不再是他们独有的。
Groq战略的未来可行性取决于若干不确定性。该公司的品牌虽然与一项大获成功的交易相关联,但也承载着令人困惑的包袱——被"收购"同时仍独立运营。更关键的是,与超高速推理相关联可能与市场方向不一致,尤其是当Microsoft和Uber等主要机构对AI编码工具的高成本提出警告之时。Groq能否用新的具有竞争力的硬件改造现有数据中心、维持其高速、高成本的token经济学战略,以及证明这种方法能够长期成功,最终将决定6.5亿美元融资是代表一项合理的投资,还是对最终无法维持自身的利基市场的赌注。