Nvidia数据中心业务在FY2024 Q2季度首次达到总收入的76%，由云端AI服务器需求爆炸式增长驱动。

英伟达的数据中心业务在财年第二季度（FY2Q24）达到103.2亿美元，实现了141%的环比增长和171%的同比增长，现在占公司收入的76%以上。这种主导地位代表了从财年第四季度（FY4Q22）的显著转变，当时数据中心收入约占42.7%，比游戏部门低约2个百分点。到财年第一季度（FY1Q23），数据中心业务超越游戏业务，占收入的45%以上。从2023年开始，随着主要云服务提供商（CSP）大力投资ChatBOTS和各种AI服务以支持公有云基础设施，英伟达获得了巨大收益。TrendForce将这一强劲收入增长的主要驱动力归因于英伟达的数据中心AI服务器相关解决方案，包括AI加速GPU和AI服务器HGX参考架构，这些都是大型数据中心的基础AI基础设施。

英伟达正在推行多层级GPU战略，以同时抢占云和边缘数据中心市场。对于高端应用，英伟达优先考虑H100系列以提升数据中心相关收入增长，但生产仍受到有限的CoWoS和HBM技术产能的制约。L40s是公司的旗舰级中端产品，采用GDDR内存而非CoWoS封装，允许快速进入中端AI服务器市场，并填补A100 PCIe接口为企业客户留下的空白。L40s针对不需要ChatGPT等大参数模型的企业，而是专注于参数数量在数百亿到不到一千亿的紧凑AI训练应用，以及边缘AI推理和图像分析任务。对于低端GPU，英伟达重点推出L4或T4系列，设计用于边缘AI服务器中的实时AI推理或图像分析，强调价格可承受性同时维持较高的成本效益比。

英伟达正在积极推广其HGX和MGX AI服务器参考架构作为AI解决方案的主要武器，包括英业达、广达、鸿海、纬创和威宇在内的ODM厂商，以及戴尔、超微和技嘉等品牌都被鼓励遵循这些参考设计。但是，这些公司必须通过英伟达对这些AI服务器参考架构的硬件和软件认证过程。利用这一方法，英伟达可以捆绑并提供集成解决方案，如其Arm CPU Grace、NPU和AI Cloud Foundation。TrendForce指出，英伟达还与VMware等实体合作提供包括Private AI Foundation在内的解决方案，将英伟达的触角延伸到边缘企业AI服务器市场，并支撑其数据中心业务的稳定增长。

对于ODM和OEM厂商，英伟达在2023年至2024年期间在为CSP服务的AI服务器市场中预期取得显著成就，这可能会促进整体出货量和收入增长。然而，HGX和MGX等标准化AI服务器架构的推出将使核心产品架构更加同质化，加剧它们竞争CSP订单的竞争。Google和AWS等大型CSP未来倾向于采用自主研发的ASIC AI加速芯片，这对英伟达GPU市场的一部分构成潜在威胁。这似乎是英伟达继续推出定位各异的GPU和综合解决方案的原因之一，旨在进一步积极将其AI业务扩展到CoreWeave等第二层数据中心和边缘企业客户。