AMD Instinct MI300은 3D die-stacking, HBM3 메모리, PCIe 5.0, 600W+ 전력 소비 특징

AMD의 차세대 Instinct MI300 가속기는 회사의 차세대 데이터센터 중심 GPU로 기능할 것이며, 여러 버전이 시장에 출시될 것으로 예상됩니다. Moore's Law is Dead의 최근 유출 정보에 따르면, 세부사항의 출처는 "명확히 해야 할 첫 번째 사항은 모든 소스가 저(Tom @ MLID)에게 MI300의 많은 변형이 존재한다고 말한다는 점입니다. 오늘 제가 설명하는 것은 제가 숙지한 변형 중 하나일 뿐입니다."라고 강조합니다. MI300은 CDNA 3 아키텍처, 5nm 및 6nm 공정 노드, 3D 다이 스태킹, 8 x HBM3 스택 메모리, PCIe 5.0 지원, 그리고 600W 이상의 전력 소비를 갖춘 의미 있는 기술 진전을 나타냅니다.

MI300의 아키텍처는 복잡한 다층 설계 구조를 바탕으로 합니다. 각 6nm 다이는 HBM3 메모리의 두 개 스택에 대한 연결을 갖추며 총 12개 이상의 금속층을 포함합니다. 6nm 다이는 서로 위에 적층될 수 있는 "여러 제품과 함께 작동"하도록 설계되었습니다. 기저에는 약 2750mm²의 대형 인터포저가 위치하며, "I/O 컨트롤러, IP 블록, 그리고 캐시로 추정되는 일련의 직사각형 6nm 타일"이 그 위에 배치되어 있습니다. 출처에 따르면 각 6nm 타일은 약 320-360mm²의 면적을 차지합니다.

컴퓨트 다이의 면적은 약 110mm²이며, 인터포저는 2750mm²의 상당한 규모에 이릅니다. 각 컴퓨트 다이는 약 20,000개의 연결을 포함하며, 이는 Apple M1 Ultra SoC에서 발견되는 다이 간 연결 수의 정확히 두 배에 해당합니다. 이는 컴포넌트 간 고대역폭 데이터 전송을 위한 MI300의 고급 상호연결 밀도를 강조합니다.

전력 효율성은 계층화된 방식으로 관리되며, 150W의 전력을 소비하는 1개의 6nm 및 1개의 5nm 타일 구성을 통해 실현됩니다. 전체 하이엔드 Instinct MI300 가속기는 약 600W 수준의 전력 소비에 도달할 것으로 예상되며, 요구사항이 많은 데이터센터 애플리케이션을 위한 고성능 솔루션으로 위치하고 있습니다.