Nvidia의 Blackwell GPU 플랫폼이 재작업이 필요하고 배송 지연에 직면하고 있으며, GB200A도 재설계 중이다.
엔비디아의 Blackwell 계열은 대량 생산 도달에 있어 주요 문제에 직면하고 있으며, 2024년 Q3/Q4 및 2025년 상반기의 생산 목표에 영향을 미치고 있습니다. 이는 엔비디아의 출하량과 매출에 영향을 미칩니다. 이에 대응하여, 엔비디아는 지연을 보충하기 위해 Hopper의 생산 수명을 연장하고 출하량을 증가시키고 있습니다. Blackwell의 제품 출시 일정은 연기되었으나, 생산 물량은 초기 출시 일정 지연보다 훨씬 더 큰 영향을 받습니다. 기술적 과제로 인해 엔비디아는 사전에 계획하지 않은 완전히 새로운 시스템을 개발하도록 내몰렸으며, 수십 개의 다운스트림 및 업스트림 공급업체에 걸쳐 파급 영향이 미치고 있습니다.
엔비디아의 Blackwell 계열 중 가장 기술적으로 고도화된 칩은 GB200이며, 여기서 엔비디아는 시스템 수준에서 공격적인 기술 선택을 합니다. 72 GPU 랙의 전력 밀도는 랙당 약 125 kW이지만, 대부분의 데이터센터 배포의 표준은 랙당 12 kW에서 20 kW입니다—이전에 달성한 적 없는 컴퓨팅 및 전력 밀도입니다. 전력 공급, 과열, 수냉식 냉각 공급망 확충, 퀵 디스커넥트 누수, 및 보드 복잡도 문제 등 수많은 문제가 발생했습니다. 이러한 문제들이 일부 공급업체와 설계자들의 골치를 앓게 했지만, 대부분은 경미하며 엔비디아의 출하량 감소 또는 주요 로드맵 재작업의 원인이 아닙니다.
출하량에 영향을 미치는 핵심 문제는 Blackwell 아키텍처에 대한 엔비디아의 설계 및 원본 Blackwell 패키지의 공급과 직접적으로 관련이 있으며, TSMC의 패키징 문제로 인해 제한되어 있습니다. Blackwell은 TSMC의 CoWoS-L 기술로 패키징된 첫 번째 대량 설계이며, 로컬 실리콘 상호연결 및 브리지 다이가 인터포저에 내장된 RDL 인터포저를 사용합니다. TSMC가 CoWoS-S를 약 3.5배 레티클 크기의 인터포저까지 확대했으므로(실리콘 취성 및 크고 얇은 실리콘 인터포저의 취급 어려움이 실질적 한계), CoWoS-L이 CoWoS-S를 계승하게 되었습니다. 유기 인터포저에 내장된 실리콘 브리지는 유기 인터포저만으로는 더 강력한 가속기에 필요한 전기적 성능이 부족한 경우 신호 밀도를 보충할 수 있습니다.
CoWoS-L은 미래를 대표하는 훨씬 더 복잡한 기술이며, 엔비디아와 TSMC는 분기당 100만 개 이상의 칩의 공격적인 확대 일정을 목표로 하고 있습니다. 유기 인터포저에 내장된 여러 미세 범프 피치 브리지는 실리콘 다이, 브리지, 유기 인터포저 및 기판 사이의 열팽창계수 불일치를 야기하여 워핑을 초래합니다. 브리지 다이 배치는 매우 높은 수준의 정확도가 필요하며, 특히 10 TB/s 칩 간 상호연결을 지원하는 두 개의 주요 컴퓨팅 다이 사이의 브리지의 경우 더욱 그러합니다. 주요 설계 문제는 브리지 다이의 재설계를 포함하며, 루머에 따르면 Blackwell 다이의 상위 몇 개의 전역 라우팅 금속층 및 범프의 재설계가 수개월 지연의 주요 원인입니다. 추가적으로, TSMC는 종합적으로 충분한 CoWoS-L 용량이 부족합니다. TSMC가 최근 몇 년간 광범위한 CoWoS-S 용량을 구축했으나 엔비디아가 대부분을 차지했지만, CoWoS-L에 대한 엔비디아의 급속한 수요 전환으로 인해 TSMC는 CoWoS-L을 위한 새로운 팹 AP6을 구축하고 AP3의 기존 CoWoS-S 용량을 전환하도록 강요당했으며, 이로 인해 확대가 불규칙한 특성을 띠게 되었습니다.
이러한 문제들을 종합하면, TSMC는 엔비디아가 원하는 만큼 충분한 Blackwell 칩을 공급할 수 없으므로, 엔비디아는 이용 가능한 용량을 거의 전적으로 GB200 NVL 36x2 및 NVL72 랙 규모 시스템에 집중합니다. B100 및 B200을 사용하는 HGX 폼팩터는 초기의 제한된 물량을 제외하고는 사실상 취소되었습니다. 수요를 충족하기 위해, 엔비디아는 B102 다이를 기반으로 한 Blackwell GPU B200A를 출시하고 있으며, 이는 B20이라고 불리는 Blackwell의 중국 버전에도 사용될 것입니다. B102는 4개 스택의 HBM을 포함하는 단일형 컴퓨팅 다이로, CoWoS-L 대신 CoWoS-S로 패키징할 수 있거나 Amkor, ASE SPIL, 및 Samsung과 같은 엔비디아의 다른 2.5D 패키징 공급업체로 패키징할 수 있습니다. 원본 Blackwell 다이의 C2C I/O에 전담된 광범위한 에지 영역은 단일형 SOC에서는 불필요하기 때문입니다.