Tesla는 자체 Dojo 학습 인프라를 개발 중에도 Nvidia H100 GPU 10,000개를 구입합니다.

Tesla는 주말에 Tesla AI 엔지니어 Tim Zaman이 발표한 바에 따라 월요일에 가동된 10,000개 GPU 컴퓨팅 클러스터를 배포하면서 AI 인프라의 상당한 확장을 공개했습니다. 이 시스템은 Tesla 차량에서 수집한 데이터를 처리하고 2016년부터 약속해온 회사의 완전 자율주행(FSD) 기능 개발을 가속화하도록 설계되었습니다. 현재까지 자동차 제조업체는 인간의 감시가 필요한 "super-cruise-control"로 설명되는 운전자 보조 기능만 제공했으며, 진정한 자율주행에는 미치지 못했습니다. Tesla는 새로운 배포에 대한 추가 의견을 제공하기를 거부했습니다.

이 최신 투자는 Tesla가 자율주행 소프트웨어 개발을 가속화하기 위해 2024년 말까지 Dojo 슈퍼컴퓨터 구축에 10억 달러를 약속한다고 지난달 발표한 것에 따른 것입니다. Dojo는 Tesla의 자체 개발 15kW 트레이닝 타일을 활용하며, 6개의 타일로 1-exaFLOPS (BF16) Dojo V1 시스템을 구성합니다. 각 타일에는 Tesla가 설계하고 TSMC가 제조한 D1 칩 다이가 포함되어 있습니다. CEO Elon Musk는 여러 경로를 유지하는 전략적 근거를 다음과 같이 설명했습니다. "우리는 실제로 Nvidia가 우리에게 제공하는 속도만큼 빠르게 하드웨어를 확보할 것입니다. 만약 Nvidia가 우리에게 충분한 GPU를 제공할 수 있다면 Dojo가 필요하지 않을 수도 있지만, 그들은 많은 고객들이 있기 때문에 그럴 수 없습니다."

새로운 10,000개 GPU 클러스터는 Tesla의 이전 배포에서 상당한 규모 확대를 나타냅니다. 2021년에 Tesla는 노드당 8개의 A100 가속기를 갖춘 720개 GPU 노드 클러스터를 운영했으며, 총 5,760개의 GPU와 1.8 exaFLOPS의 FP16 성능을 제공했습니다. 현재 시스템은 거의 2배 규모이며 Nvidia의 최신 H100 GPU를 활용합니다. 이는 이전 세대 대비 약 3배의 FP16 성능을 제공하고 FP8 수치 연산 지원이 포함되어 있습니다. HGX 섀시와 SXM5 H100 모듈을 사용하여 이 시스템은 약 1,250개의 노드로 구성되며 각각 8개의 GPU를 갖추고 있어 39.5 exaFLOPS의 FP8 성능을 제공합니다. 설치에는 200 petabyte 이상의 핫 티어 캐시 용량이 포함되어 있습니다.

중요하게도, Tesla는 Microsoft나 Google과 같은 클라우드 제공업체에서 용량을 임차하는 대신 자신의 시설에서 이 인프라를 소유하고 운영합니다. Zaman은 이러한 구별을 강조했습니다. "많은 조직이 '우리가 보유하고 있다'고 말하는데, 이는 보통 '우리가 임차했다'는 의미입니다. 실제로 소유한 조직은 거의 없으며, 따라서 완전히 수직 통합됩니다. 이는 나를 짜증나게 합니다. 왜냐하면 소유하고 유지보수하는 것이 어렵기 때문입니다. 임차는 쉽습니다." Tesla의 수직 통합 전략은 데이터센터 확장으로 확대되는 것으로 보입니다. 회사는 최근 "Tesla의 최초의 독특한 데이터센터의 엔드투엔드 설계 및 엔지니어링을 주도"하는 임무를 맡은 데이터센터용 시니어 엔지니어링 프로그램 관리자 채용공고를 게시했으며, 이는 추가 계산 용량을 수용하기 위한 새로운 시설 구축 계획을 시사합니다.