据报道,Moonshot AI(Kimi制造者)使用Nvidia Blackwell GPU训练K3模型,规避美国出口管制与中国进口限制以获取先进计算能力。
在AI军备竞赛中保持领先优势已成为美国和中国的重要目标,而Nvidia的Blackwell AI芯片是这场竞争中众多争点之一。美国政府禁止向中国公司销售这些芯片,而中国政策则禁止其进口,该国试图开发自己的先进AI芯片产业。
然而,中国AI公司已经证明了在规避这些限制性政策上的创意。据报道,月之暗面AI已大量使用Blackwell芯片来训练其最近发布的Kimi K3前沿级模型,并且似乎在寻求对Kimi K4的额外访问权。
根据The Information报道,月之暗面与两家拥有Blackwell芯片的中国公司合作,这些公司在其数据中心内拥有这些芯片,尽管存在双边限制。由于这些芯片目前供应紧张,任何一家公司都没有足够的库存来单独满足月之暗面的训练需求。这迫使月之暗面开发了一种方法,将多个八芯片Blackwell服务器跨数据中心联合在一起,以获得必要的计算能力。
一位在大型中国科技公司从事模型训练工作的研究人员表示,Kimi K3已经"在该国的AI产业中开启了新一轮军备竞赛"。他们强调,使用中国自主研发但发展缓慢的有前景的芯片来训练前沿模型是困难的或不可能的,这些芯片仍然比Nvidia当前产品落后一到两代,并面临数月的交期延迟。
对于推理工作,月之暗面依赖于Nvidia中国市场的HGX H20,这是一款不受美国或中国贸易限制的前代芯片。该公司建议运行Kimi K3的配置至少需要64个H20 GPU。这些需求加上模型的高需求迅速耗尽了月之暗面的计算能力;该公司现在维护着额外推理容量的等待名单订阅。由于Kimi K3是一个开源权重模型,其权重最近被发布,其他推理提供商也在提供服务,可能缓解了这个瓶颈。
白宫主任Michael Kratsios上周声称,月之暗面AI既"购置了配备GB300的服务器,也在泰国访问了GB300"。虽然购买Blackwell芯片被禁止,但租赁这些芯片一直是合法的,直到提议的《远程访问安全法案》生效——该法案旨在通过将远程访问分类为出口事件来关闭租赁漏洞。跨外国司法管辖区的执法仍不明确。
商务部正在正式调查中国公司是否在访问Blackwell GPU等先进的美国芯片。在中国,许多知名公司拥有或可以访问Blackwell和其他先进芯片已经是公开的秘密。尽管存在贸易限制和采用国产芯片的压力,中共尚未对这些AI企业强制实施限制。一些分析人士推测,这种明显的视而不见是有意为之,允许月之暗面等中国公司追赶Anthropic和OpenAI等竞争对手。