英伟达增加对台积电H200芯片生产的订单,以满足激增需求,特别是来自中国客户的需求。
据报道,英伟达公司已要求台湾积体电路制造股份有限公司扩大H200图形处理器的产量,以应对中国客户的强劲需求。路透社消息人士称,客户已下单超过200万块H200芯片。英伟达预计每块GPU的售价约为27,000美元,这可能产生超过540亿美元的收入。
H200是英伟达在2022年初推出的图形卡的升级版本。其设计与原版本几乎相同,除了内置HBM内存池的容量翻了近一倍。英伟达还将GPU的内存带宽(即数据在芯片HBM和内存电路之间移动的速度)提高了40%。因此,该芯片某些推理任务的执行速度是其所衍生的2022年图形卡的两倍。H200的速度也比H20快六倍。H20是公司目前在中国销售的最快芯片,是在拜登政府2022年阻止高端GPU出口到中国后英伟达开发的。
GPU内存与逻辑电路之间的数据移动占生成大型语言模型快速响应所需时间的很大部分。通过提高GPU的内存带宽可以显著加快数据移动速度,这是英伟达应用于H200的优化之一。大型语言模型通过涉及众多步骤的过程生成快速响应,每个步骤后,模型将其处理结果保存到底层GPU的内存中,然后再将这些结果移动到GPU的逻辑电路,以便下一个处理步骤可以开始。
今年早些时候,特朗普政府提出了将出口禁令扩展到H20的可能性。官员们随后放弃了这一想法,并宣布GPU向中国的发货收入的15%将归美国政府。几周前,美国总统唐纳德·特朗普将这一比例提高到25%,并批准向授权的中国公司出售H200芯片。然而,虽然美国已批准H200出口,但中国监管机构据报道尚未给予批准。尽管如此,英伟达已要求台积电加快H200产量,路透社消息人士称这一制造推动计划将从2026年下半年开始。
据路透社报道,英伟达目前拥有60万块H200芯片库存和10万块GH200 Grace Hopper超级芯片库存,每块GH200包括一对H200和单个72核中央处理器。据报道,英伟达计划向中国客户提供标准H200芯片和GH200。据报道,大部分运往中国的H200芯片已被大型科技公司订购。英伟达计划到2月份利用现有的70万块HB200和Grace Hopper芯片库存履行第一批订单,其余130万块芯片定于2026年晚些时候发货。