尽管自主开发Dojo训练基础设施，Tesla仍采购10000块Nvidia H100 GPU。

Tesla公布了AI基础设施的重大扩展，部署了一个10,000 GPU计算集群，该集群于周一正式上线，由Tesla AI工程师Tim Zaman在周末宣布。该系统旨在处理从Tesla车辆收集的数据，并加速公司全自动驾驶(FSD)功能的开发。Tesla自2016年以来一直在承诺这一功能，但到目前为止仅交付了驾驶辅助功能，被描述为"超级巡航控制"，需要人类监督，未能达到真正的自动驾驶。Tesla拒绝对新部署做出进一步评论。

这项最新投资紧随Tesla上月宣布的10亿美元承诺而来，该承诺旨在在2024年底前完成其Dojo超级计算机的建设，以加快自动驾驶软件开发。Dojo采用Tesla专有的15kW训练模块，六个模块组成一个1 exaFLOPS(BF16) Dojo V1系统。每个模块包含由Tesla设计并由TSMC制造的D1芯片。CEO Elon Musk阐述了采用多条技术路线的战略理由："我们实际上会以Nvidia提供给我们的速度获取硬件。如果他们能交付足够的GPU给我们，我们可能就不需要Dojo了，但他们做不到，因为他们客户太多了。"

这个10,000 GPU的新集群代表了Tesla之前部署规模的显著提升。2021年，Tesla运营着一个720 GPU节点集群，每个节点配备8个A100加速器，总计5,760个GPU，提供1.8 exaFLOPS的FP16性能。目前的系统规模几乎翻倍，并采用了Nvidia最新的H100 GPU，这些GPU的FP16性能大约是前代产品的三倍，并支持FP8数学运算。该系统采用配备SXM5 H100模块的HGX机箱，共包括约1,250个节点，每个节点8个GPU，提供39.5 exaFLOPS的FP8性能。该部署包括超过200 petabytes的热层缓存容量。

值得注意的是，Tesla在其自有设施内拥有并运营这一基础设施，而非从Microsoft或Google等云服务商租赁容量。Zaman强调了这一区别："很多组织说'我们有'，通常意味着'我们租用'，很少有企业真正拥有，因此真正实现垂直整合。这让我感到困扰，因为拥有和维护很难，租赁很容易。"Tesla的垂直整合战略似乎延伸到了数据中心扩展；该公司最近发布了一个高级工程计划经理的职位，负责领导"Tesla首个同类数据中心的端到端设计和工程"，暗示该公司计划新建设施来容纳额外的计算能力。